< 기획 배경 >
AI는 주어진 문제 안에서 가장 그럴듯한 답을 만들어 줍니다. 답이 빠르고 그럴듯할수록, 그 문제가 제대로 세워진 문제인지는 덜 확인하게 됩니다.
트롤리 딜레마를 소재로 삼은 이유가 여기 있습니다. 이 사고실험은 제3의 수단이 없다는 가정 위에서만 성립합니다. 선택지를 둘로 좁혀 놓아야 질문이 작동합니다. 그 구조가 AI에게 판단을 맡길 때와 닮아 있다고 보고, 트롤리 딜레마를 윤리 시험이 아니라 두 개의 답만 보여 주는 인터페이스로 다시 썼습니다.
< 의도 >
작품 속 두 AI는 각각 한 명과 다섯 명을 살리겠다고 답합니다.
주인공은 둘 중 하나를 고르는 대신 AI 답변에 갇혀있지 않고 눈에 띄지 않았지만 가까이에 있었던 빨간 정지 레버를 발견해 기차를 세웁니다.
이 레버는 처음부터 가까이 있었지만 미처 발견하지 못한 주인공(여러분)만의 생각입니다.
AI를 틀린 쪽으로 그리지 않았습니다.
다만 주어진 선택지가 전부처럼 보일 때, 조건을 다시 보고 다른 길이 있는지 확인하는 일은 AI 시대에 더욱 필요한 능력이라고 생각됩니다.
서부 사막을 배경으로 무겁지 않게 카툰 형식으로 만들었습니다.