핵심 정리
2173-34원문
The designer in the Age of Algorithms poses a threat to American jurisprudence because the algorithm is only as good as the designer's understanding of the intended use of the algorithm. The person designing the algorithm may be an excellent software engineer, but without the knowledge of all the factors that need to go into an algorithmic process, the engineer could unknowingly produce an algorithm whose decisions are at best incomplete and at worst discriminatory and unfair. Compounding the problem, an algorithm design firm might be under contract to design algorithms for a wide range of uses, from determining which patients awaiting transplants are chosen to receive organs, to which criminals facing sentencing should be given probation or the maximum sentence. That firm is not going to be staffed with subject matter experts who know what questions each algorithm needs to address, what databases the algorithm should use to collect its data, and what pitfalls the algorithm needs to avoid in churning out decisions.::알고리즘 시대의 설계자는 알고리즘이 그 알고리즘의 의도된 용도에 대한 설계자의 이해와 다름없기 때문에 미국 법체계에 위협을 가한다. 알고리즘을 설계하는 사람은 훌륭한 소프트웨어 기술자일 수 있지만, 알고리즘의 과정에 들어가야 할 모든 요인에 대한 지식이 없으면, 그 기술자는 결정이 기껏해야 불완전하고 최악의 경우 차별적이고 불공정한 알고리즘을 모르고 만들어 낼 수 있다. 문제를 더 심각하게 만드는 것은, 한 알고리즘 설계 회사가, 이식을 기다리는 어느 환자가 장기를 받도록 선택될지 결정하는 것부터, 선고에 직면한 어느 범죄자가 집행 유예 또는 최고형을 받아야 하는지 결정하는 것까지의, 광범위한 용도를 위해 알고리즘을 설계하도록 계약을 체결할지도 모른다는 것이다. 그 회사는 각 알고리즘이 어떤 문제를 다뤄야 하는지, 알고리즘이 그것의 데이터를 수집하기 위해 어떤 데이터베이스를 사용해야 하는지, 그리고 알고리즘이 결정을 잇달아 낼 때 어떤 위험을 피해야 하는지를 알고 있는 주제별 전문가들을 직원으로 두지는 않을 것이다.