핵심 정리
2363-30원문
To the extent that an agent relies on the prior knowledge of its designer rather than on its own percepts, we say that the agent lacks autonomy. A rational agent should be autonomous ― it should learn what it can to compensate for partial or incorrect prior knowledge. For example, a vacuum-cleaning agent that learns to foresee where and when additional dirt will appear will do better than one that does not. As a practical matter, one seldom requires complete autonomy from the start: when the agent has had little or no experience, it would have to act randomly unless the designer gave some assistance. So, just as evolution provides animals with enough built-in reflexes to survive long enough to learn for themselves, it would be reasonable to provide an artificial intelligent agent with some initial knowledge as well as an ability to learn. After sufficient experience of its environment, the behavior of a rational agent can become effectively independent of its prior knowledge. Hence, the incorporation of learning allows one to design a single rational agent that will succeed in a vast variety of environments.::에이전트가 자신이 지각한 내용보다 설계자의 사전 지식에 의존하는 경우, 우리는 그 에이전트가 자율성이 부족하다고 말한다. 합리적 에이전트는 자율적이어야 하는데, 불완전하거나 부정확한 사전 지식을 보완할 수 있도록 학습할 수 있는 것을 학습해야 한다. 예를 들어, 또 다른 먼지가 어디에서 그리고 언제 나타날지 예측하는 방법을 학습하는 진공 청소 에이전트는 그렇게 하지 않는 것보다 더 잘할 것이다. 현실적으로는 처음부터 완전한 자율성이 거의 필요하지 않은데, 에이전트가 경험이 거의 없거나 전혀 없을 때, 설계자가 약간의 지원을 제공하지 않는다면, 그것은 임의로 작동해야 할 것이다. 따라서 진화가 동물이 스스로 학습할 수 있을 만큼 충분히 오래 생존할 수 있도록 필요한 만큼의 타고난 반사 신경을 제공하는 것처럼, 인공 지능 에이전트에게 학습할 수 있는 능력뿐만 아니라 약간의 초기 지식을 제공하는 것이 합리적일 것이다. 환경을 충분히 경험한 후, 합리적인 에이전트의 행동은 사전 지식으로부터 사실상 독립할 수 있다. 따라서 학습의 통합은 아주 다양한 환경에서 성공할 하나의 합리적 에이전트를 설계할 수 있게 한다.