The biggest obstacle for AI in real-world settings is that most human tasks aren't nearly as tidy in their rules and boundaries. Those "gray areas" (like driving on busy city streets) are where AI tools often falter. Despite years of expert forecasts of their imminent arrival, we don't yet have self-driving cars that can safely replace human drivers, other than in controlled settings. That's why some driverless taxis created chaos on the streets of San Francisco. Despite years of optimistic predictions, many AI tools cannot yet be trusted in open-world environments, where the human stakes are high, and failure means real, permanent loss. AI performance in these areas can still improve, as the size of AI models grows, and they are trained on more human driving data. But they will improve only by mirroring more of the patterns found in our intelligent performances, as we cope with a world that no data set can ever contain.::현실 세계의 환경에서 AI의 가장 큰 장애물은 대부분의 인간 과업이 그것의 규칙과 경계에 있어서 결코 그렇게 잘 정돈되어 있지 않다는 것이다. 그러한 (붐비는 도시의 거리에서 운전하는 것과 같은) '회색 지대'는 AI 도구들이 대체로 불안정해지는 곳이다. 그것들의 임박한 도입에 대한 전문가들의 수년간의 예측에도 불구하고, 우리는 통제된 환경 외에는 인간 운전자를 안전하게 대체할 수 있는 자율 주행 자동차를 아직 가지고 있지 않다. 그것이 일부 무인 택시가 샌프란시스코의 거리에서 혼란을 일으킨 이유이다. 수년간의 낙관적인 예측에도 불구하고, 많은 AI 도구들은 인간이 잃을 것이 많고 실패가 실제적이고 영구적인 손실을 의미하는 개방 세계 환경에서 아직 신뢰받을 수 없다. 이러한 분야에서 AI의 성능은 AI 모델들의 규모가 더 커지고, 더 많은 인간의 운전 데이터에 근거하여 훈련됨에 따라 여전히 향상될 수 있다. 그러나 그것들은 오직 우리의 지적인 수행에서 발견되는 더 많은 행동 양식을 반영함으로써만 향상될 것인데, 우리가 어떤 데이터 세트도 결코 담아낼 수 없는 세상을 다루기 때문이다.