Writing Materials · Story Foundation

거절이 자정에 효력을 잃는 도시

복지 AI가 내린 거절을 사람이 30일 안에 다시 확인해 이유를 적고 서명하지 않으면, 그 거절은 효력을 잃고 임시 승인으로 바뀐다. 자정까지 7,306건을 살필 수 없는 야간 심사관은 거절을 한꺼번에 연장할지, 예산이 감당하지 못할 임시 지급을 열어 둘지 선택해야 한다.

왜 지금인가

캐나다의 Automated Decision-Making 지침은 행정 자동화에 설명과 구제 수단을 요구하고, EU AI Act의 제85·86조는 일정한 고위험 AI 결정에 관한 민원 절차와 설명받을 권리를 규정한다. 영국 ATRS는 공공 알고리즘의 운영 맥락과 책임 주체를 공개하고 이의·재심 가능성을 확인하도록 돕는다. 그러나 사람이 확인하지 않은 자동 거절이 언제까지 법적 효력을 가져야 하는지는 이 장치들만으로 정해지지 않는다. 이 시간의 공백을 거절의 만료 시계로 바꾸면 인간 검토가 이름뿐인 절차인지 실제 권한인지 드러난다.

이야기 방향

2031년, 광역시 복지심사센터의 야간 심사관 하린은 자정에 효력이 끝나는 AI 거절 7,306건을 넘겨받는다. 새 조례는 시행 전 한 달 동안 쌓인 거절에도 같은 30일 기한을 적용했고, 센터는 29일 동안 예산 수정안을 기다리며 검토를 미뤘다. 조례에 따르면 사람이 사건 기록을 읽고 이유를 적은 뒤 서명해야만 거절을 연장할 수 있다. 밤 8시에야 24명의 긴급 심사조가 꾸려졌지만 자정까지 제대로 읽을 수 있는 사건은 412건뿐이다. 기한을 넘긴 거절은 자동으로 사라지고 다음 날부터 임시 수당이 지급된다.

시스템 교체 때 남은 일괄 서명 기능에는 법무팀이 ‘조례 위반’ 경고를 붙였지만 버튼은 아직 작동한다. 센터장은 감사가 오기 전까지 예산을 지킬 수 있다며 하린에게 7,306건의 연장을 승인하라고 지시한다. 첫 사건의 신청자 은주는 돌봄 앱이 밤 기록을 아침에 몰아서 전송하자, 시스템이 전송 전 공백을 돌봄 중단으로 읽어 수당을 잃었다. 요약문에는 지연 전송 기록이 없다. 하린이 일괄 서명을 거부하면 은주 같은 사람은 당장 돈을 받지만, 사람이 확인하지 못한 수천 건도 함께 임시 승인된다. 지급 대기액 91억 원은 남은 월 예산보다 17억 원 많다. 서명하면 예산은 닫히고 잘못된 거절도 다시 30일을 얻는다.

밤 11시 59분, 센터장은 하린의 보안카드를 단말기에 대고 서명만 하라고 말한다. 하린은 카드를 빼서 책상 위에 놓는다. 자정이 되자 화면의 붉은 ‘거절 유효’ 표시가 위에서부터 회색으로 꺼지고, 임시 지급 대기액이 초 단위로 오른다. 은주가 내일 통장에 돈이 들어오느냐고 묻는 순간 예산실에서 첫 전화가 온다. 하린은 꺼져 가는 표시를 보며 수화기를 든다.

근거 요점

원자료

출처

Writing Materials로 돌아가기