기술생성시대에는 판단의 문제가 달라진다. 인간이 내리는 판단처럼 보이는 것이 실은 알고리즘이 구성한 문제 틀 안에서만 가능한 경우가 늘고 있다. 이 변화를 정확히 짚어야 한다.
**판단의 재구조화는 결정의 대체가 아니다**
알파고가 이겼다거나-chatGPT가 글을 쓴다는 통상적 서술은 판단의 영역 이동이라는 더 깊은 변화를 가린다. 중요한 것은 단순히 기계가 인간의 판단을 대신하고 있다는 사실이 아니다. 중요한 것은, 기계의 작동 방식이 인간의 판단 대상이 되는 문제들을 먼저 결정하고 있다는 점이다.
어떤 문제가 판단의 대상으로 들어오는지, 어떤 변수가 고려 가능한 해에 포함되는지를 결정하는 것은 알고리즘의 영역이다. 인간은 이 틀 안에서 판단하는 것처럼 보이지만, 그 틀 자체는 인간의 참여 없이 설정된 것이다.
**가능한 경우의 수를 먼저 결정하는 힘**
알고리즘이 판단에 영향을 미치는 방식은 세 가지 층위로 나뉜다.
첫째, 선별적 포함이다. 추천 시스템이 모든 가능한 선택지를 같은 것처럼 제시하지 않는다. 일부 선택지는 부각되고, 나머지는 감춰진다. 인간이 판단하는 것처럼 보이는 공간은 실은 이미 선별된 공간이다.
둘째, 가중 배분이다. 각 선택지에 부여되는 가중치가 알고리즘적 처리를 통해 형성된다. 인간의 판단은 이 가중치에 영향을 받지만, 가중치 자체를 설정하는 것은 인간이 아니다.
셋째, 시간 구조이다. 어떤 판단을 언제 내릴 것인지를 결정하는 것도 알고리즘이 관여한다. 마감의 설정, 반응의 우선순위, 주의의 배분 모두 알고리즘적 매개가 개입하는 영역이다.
**이 구분을 왜 명시해야 하는가**
기술생성시대를 이해하는 데 결정적인 구분이 있다. 알고리즘이 판단을 대체하고 있다는 생각과, 알고리즘이 판단의 조건을 재구성하고 있다는 생각은 다르다.
대체 논리는 인간의 영역이 줄어들고 있다는 어두운 그림을 그린다. 그러나 조건의 재구성 논리는 더 복잡한 실제를 제시한다. 인간의 판단은 여전히 작동하지만, 그 판단이 적용되는 문제의 지형이 알고리즘적으로 먼저 정리된 상태에서 작동한다.
판단의 재구조화를 이해해야만, 인간의 판단이 여전히 가지는 역할과 역할이 불가능해진 영역을 구분할 수 있다. 이것이 기술생성시대에 대한 비평의 출발점이다.
판단의 재구조화는 결론이 아니다. 오히려 기술생성시대의 윤리적 과제를 설정하는 출발점이다. 어떤 조건에서 인간의 판단이 여전히 의미 있는 것으로 기능할 수 있는지, 그리고 그 조건을 어떻게 만들어낼 수 있는지를 묻는 것이 이 출발점에서 비로소 가능해진다.