장애인을 진정으로 포용하는 AI 설계

서비스가 구경거리가 될 때: 짧은 장면

2025년 12월 6일, 20년 동안 장애와 함께 살아온 건축업자 Bhavanishankar Ravindra는 "시장이 아니라 거울이 되는" AI를 위한 엔지니어의 지도라는 짧은 선언문을 발표했습니다. 그의 주장은 단순하고 날카롭습니다. "접근성"이 있다고 광고되는 수많은 도구는 사후 고안된 부가 기능이거나 홍보 수단에 불과하며, 사용자의 말투나 신체, 언어가 훈련된 규범에서 벗어나는 순간 무너진다는 것입니다. 비슷한 시기에 UNICEF는 수십 개국에서 접근 가능한 디지털 교과서 시범 운영을 진행하고 있었으며, 접근성 전문가들은 생성형 AI에 대한 업계의 과대광고가 기업들로 하여금 존엄성과 독립성을 훼손할 수 있는 "적당히 괜찮은" 자동화 출력물을 수용하도록 부추기고 있다고 경고했습니다.

삶의 경험이 담긴 청사진: 가장자리에서 시작하기

Ravindra의 핵심 논점은 곧 설계 원칙이기도 합니다. 바로 '가장자리(edges)'에서 시작하는 것입니다. 장애인은 이례적인 테스트 케이스가 아닙니다. 이들은 시스템이 어디서 고장 나는지를 드러내 주는 에지 케이스 지능의 원천입니다. 주류 AI가 비표준적인 언어를 "노이즈"로 처리할 때, 장애와 함께 사는 제작자는 동일한 신호를 의미로 처리합니다. 이러한 인식의 전환은 모든 것을 바꿉니다. 인간을 모델이 예상하는 입력값에 억지로 맞추려 하는 대신, 모델은 사용자의 고유한 패턴(은유, 망설임, 리드미컬한 말투)을 수용하고 가시화하며, 정형화된 공감을 들이미는 대신 그 패턴을 그대로 반영하도록 설계되어야 합니다.

실질적으로 이는 설계자가 노이즈 섞인 음성에 대한 복원력, 대안적 입력 채널(시선 추적, 스위치 컨트롤, AAC 기기)에 대한 허용 오차, 그리고 언어의 표면적 해석이 아닌 의미론적 해석(은유적 편차나 반복을 오류가 아닌 신호로 간주)과 같은 기능을 내장해야 함을 의미합니다. 또한 연결성이나 클라우드 접속이 실패할 경우를 대비하여 프라이버시와 신뢰성을 확보하기 위한 저지연 온디바이스 로직을 포함해야 합니다.

중요한 설계 및 엔지니어링 원칙

인터뷰, NGO 시범 운영 및 기술 검토를 통해 다섯 가지의 반복 가능한 엔지니어링 패턴이 도출되었습니다.

• 제약 조건으로부터 구축하기. 저메모리, 오프라인 지원 도구는 엄격한 우선순위 설정을 강제합니다. 네트워크가 끊기거나 배터리가 부족할 때 반드시 작동해야 하는 기능은 무엇인가? 이러한 트레이드오프는 기능 과잉이 아닌 복원력 있는 UX를 만들어냅니다.
• 시뮬레이션보다는 반영. 사용자는 자신의 언어와 감정 구조를 거울처럼 보여주는 도구가 필요합니다. 감정을 느끼는 척하는 것이 아니라 패턴을 강조해야 합니다. 반영(Mirroring)은 모델이 거짓된 의도를 투영하거나 가르치려 드는 듯한 정형화된 응답을 제공할 위험을 줄여줍니다.
• 신호로서의 감정. 리듬, 반복, 의미론적 편차를 인지 부하 또는 고통의 지표로 추적하고, 이 정보를 사용자에게 부드럽게 제시하십시오. 동의와 맥락 없이 이를 불투명한 위험 점수로 변환해서는 안 됩니다.
• 가시성과 제어권. 시스템이 무엇을 들었는지, 왜 그렇게 행동했는지 사용자가 알 수 있게 하십시오. 인지적 피로에 대비해 쉬운 종료 및 휴식 메커니즘을 노출하여 시스템이 사용자를 긴 자동화 루프에 가두지 않도록 해야 합니다.
• 공동 설계와 책임. 첫날부터 장애인 단체, 간병인, 다양한 사용자들과 함께 구축하십시오. 설계 결정은 측정 가능한 접근성 지표의 대상이 되어야 하며, 성능이나 보안 목표처럼 다루어져야 합니다.

데이터, 장치 및 프라이버시의 트레이드오프

포용적인 모델에는 포용적인 데이터가 필요합니다. 이는 명백하면서도 어려운 일입니다. 대부분의 음성 및 시각 모델은 명료한 발음, 가려지지 않은 얼굴, 표준 레이아웃과 같은 규범적인 코퍼스(Corpora)로 훈련됩니다. Mozilla의 Common Voice나 Project Euphonia와 같은 이니셔티브는 과소 대표된 목소리를 모으기 위해 만들어졌지만, 도입은 부분적이고 느립니다. 긁어모은 편향된 데이터셋에 의존하는 기업은 계속해서 취약한 시스템을 생산할 것입니다.

두 가지 기술적 트레이드오프를 강조할 필요가 있습니다. 첫째, 온디바이스 추론입니다. 작고 잘 조정된 모델을 로컬에서 실행하면 지연 시간이 줄어들고 프라이버시가 보호되며 인터넷 연결 없이도 상호작용이 가능해집니다. 이는 많은 장애인 사용자와 연결 상태가 불안정한 지역의 교육용 배포에 필수적입니다. 둘째, 모델의 선택입니다. 가장 큰 파운데이션 모델이 항상 최적의 도구인 것은 아닙니다. 추론과 판단은 감사(Audit)가 가능하고 환각 현상 없이 사용자 의도를 반영하도록 제한할 수 있는 콤팩트하고 설명 가능한 모델에서 더 효과적인 경우가 많습니다.

표준, 측정 및 시스템적 변화

접근성은 여전히 사후에 추가되는 기능인 경우가 너무 많습니다. Built In의 접근성 검토와 UNICEF의 교과서 시범 운영 모두 동일한 구조적 해결책을 가리킵니다. 접근성은 웹의 WCAG와 유사하게, AI의 행동과 인터페이스에 대해 측정 가능한 성공 지표이자 강제되는 표준이 되어야 합니다. 이를 위해서는 AI 접근성에 대한 공통 표준, 제품 주기 전반에 걸친 장애인 협력자의 일상적인 참여, 그리고 포용적 설계를 보상하는 규제 또는 조달 수단이라는 세 가지 요소가 조화를 이루어야 합니다.

측정이 중요합니다. "생산된 접근성 텍스트 수"를 넘어, 의미 있는 지표는 학습 결과, 참여율, 유지율, 체감되는 존엄성 및 인지 부하 감소입니다. 이러한 신호를 추적하는 시스템은 더 빠르게 반복 개선될 수 있지만, 다운로드 수나 클릭 수만 추적하는 시스템은 그렇지 못합니다.

경제 및 노동계에 미치는 영향

포용적인 AI를 설계할 때 노동 문제를 무시할 수 없습니다. 여러 산업 분야에서 AI가 숙련도 저하와 임금 삭감을 정당화하는 데 사용되는 것을 보았습니다. 번역이 명확한 사례입니다. 기계 번역 파이프라인으로 인해 번역가들은 품질이 떨어지고 문화적 뉘앙스를 놓치게 되더라도 저임금 사후 편집(post-editing) 역할로 내몰리고 있습니다. 접근성 분야에서도 유사한 역학이 나타날 수 있습니다. 기업이 훈련된 전문 상담가, 치료사 또는 특수 교육자를 감독이 소홀한 봇으로 대체한다면 사회적 피해는 가중될 것입니다.

따라서 책임 있는 산업 전략은 포용적 제품 설계와 인력 전환을 병행해야 합니다. 교육자와 접근성 전문가가 접근성 AI를 운영, 감사 및 관리할 수 있도록 재교육하고, 커뮤니티 주도의 데이터셋 수집에 자금을 지원하며, 품질과 맥락, 인간의 감독을 보장하는 유급 역할을 보호해야 합니다.

제작자를 위한 실질적인 로드맵

엔지니어나 제품 리더가 내일부터 당장 할 수 있는 일은 무엇일까요?

1. 핵심 팀에 장애인 협력자를 초대하십시오. 그들에게 정당한 보상을 제공하고, 단순한 테스트 기회뿐만 아니라 의사 결정권을 부여하십시오.
2. 포용적인 데이터셋의 우선순위를 정하십시오. 다양한 음성, 시각 및 상호작용 흔적(예: 저자원 언어, 억양, 대안적 음성 데이터셋)을 수집하는 프로젝트에 기여하거나 라이선스를 확보하십시오.
3. 접근성 KPI를 설정하십시오. 정성적 및 정량적 측정 지표를 추적하십시오: 피로 상태에서의 작업 성공률, 비표준 입력에 대한 오류율, 체감되는 존엄성과 자율성 등입니다.
4. 적절한 경우 감사 가능한 소형 모델을 선택하십시오. 개인적이고 지연 시간이 낮은 접근성 작업에는 가장 큰 모델이 최선인 경우가 드뭅니다.
5. 종료 및 휴식 흐름을 설계하십시오. 인지 부하를 가정하고 사용자가 대화를 일시 중지하거나, 내보내거나, 신뢰할 수 있는 사람에게 인계할 수 있는 도구를 제공하십시오.
6. 조달 표준 및 규제를 옹호하십시오. 공공 구매자가 접근 가능한 AI를 요구한다면 시장도 따를 것입니다.

결론: 대체가 아닌 증언하는 도구

AI가 장애인에게 유용하려면 현재 대부분의 시스템이 하지 못하는 두 가지를 잘 수행해야 합니다. 사용자의 언어와 취약성을 있는 그대로 반영해야 하며, 프라이버시와 존엄성을 보호하는 제약 조건 하에서 작동해야 합니다. 이를 위해서는 제작자의 겸손함이 필요합니다. 이는 기술적 전환일 뿐만 아니라 정치적 전환이기도 합니다. 투자자, 제품 팀, 규제 기관은 최신 모델 벤치마크보다 포용성을 우선시해야 합니다.

청사진은 단순하지만 까다롭습니다. 가장자리에 사는 사람들과 공동 설계하고, 포용적 데이터에 투자하며, 저사양 및 오프라인 작동을 고려해 구축하고, 실제 접근성 성과를 측정하며, AI를 인간적인 돌봄으로 번역하는 일자리를 보호하는 것입니다. 여기서 시작한다면 AI는 구경거리가 되기를 멈추고 진정한 독립의 도구가 되기 시작할 것입니다.

출처

• UNICEF (접근 가능한 디지털 교과서 이니셔티브)
• OpenAI (생성형 모델 및 배포에 관한 연구)
• Mozilla (Common Voice 데이터셋 및 포용적 데이터 노력)
• Project Euphonia (비전형적 음성을 위한 음성 데이터셋)
• Massachusetts Institute of Technology (AI 연구 및 인간-컴퓨터 상호작용 문헌)