- 올해 9월까지 위험 제보 387건… 사업자 전달 218건 중 회신 53건(24.3%)
- 전문가 자문 거친 6건도 제출자료상 답변은 1건… 구체적인 개선 성과 확인 어려워
- 한준호 의원 “축적된 제보가 서비스 개선과 이용자 보호 대책으로 이어져야”

생성형 AI가 잘못된 의약품 정보를 안내하거나 개인정보를 노출하는 등 위험한 답변을 내놓았을 때 이용자가 이를 제보할 수 있는 정부 플랫폼이 운영되고 있다. 이용자 제보를 분석해 피해를 예방한다는 취지에 맞게 참여를 확대하고 실제 서비스 개선으로 이어지도록 운영을 보완해야 한다는 지적이 나왔다.
 
더불어민주당 한준호 국회의원(국회 과학기술정보방송통신위원회 간사·경기 고양시을)이 방송미디어통신위원회(이하 방미통위)로부터 제출받은 자료에 따르면 ‘생성형 AI 이용자 참여플랫폼’에는 올해 1월부터 9월 말까지 총 387건의 제보가 접수됐다.
 
지난해 운영을 시작한 이 플랫폼은 이용자가 AI를 사용하면서 발견한 위험을 제보하면 내용을 검토해 사업자에게 전달하고 개선을 요청하는 창구다. 축적된 제보를 분석해 새로운 위험을 발견하고 서비스 개선과 이용자 보호정책에 활용하는 것이 목적이다.
 
총 387건의 제보 중 사업자에게 전달된 제보는 218건으로, 이 가운데 회신은 53건(24.3%)이었다. 나머지 165건(75.7%)은 답변이 없었다. 성적 딥페이크 생성과 개인정보 침해, 의약품 오남용 등 이용자 안전과 직결되는 위험 제보도 해외 사업자에게 전달됐지만 회신을 받지 못했다.
 
방미통위는 전문가 자문단을 통해 제보의 중대성과 개선 방안을 검토하고 있다. 올해 두 차례 자문을 거쳐 제보 6건에 대한 사실관계 확인과 개선계획 제출을 요청했지만 제출자료상 사업자 답변은 단 1건에 그쳤다. 회신이 없는 제보에는 초상권 침해와 인종 편향 등 중대성이 높다고 평가된 사례도 포함됐다.
 
이에 대해 방미통위는 미회신 사업자에게 유선으로 답변을 독려하고 있다고 설명했다. 일부 사업자는 조치를 완료했다고 답변했으나 구체적인 서비스 개선 내용이나 제보 분석을 정책·제도 개선으로 연결한 사례는 충분히 제시되지 않았다.
 
사업 초기인 만큼 이용자 참여를 넓히고 사업자의 협조를 높이는 데 힘을 모을 필요가 있다. 더 많은 이용자가 플랫폼을 알고 위험 사례를 제보할 수 있도록 안내를 강화하는 한편 사업자와 개선 방안을 논의하고 그 결과를 이용자에게 알리는 과정도 뒷받침돼야 한다. 제보가 실제 개선으로 이어지는 경험이 쌓여야 지속적인 참여도 기대할 수 있다.
 
한준호 의원은 “이용자가 직접 발견한 위험 사례는 AI를 더 안전하게 이용할 수 있도록 돕는 중요한 자료”라며 “더 많은 국민이 플랫폼을 알고 참여할 수 있도록 알리고 사업자도 위험을 줄이는 데 적극 협력하도록 해야 한다”고 강조했다.
 
이어 “사업이 시작된 지 1년가량 된 만큼 지금은 플랫폼이 제 역할을 할 수 있도록 기반을 다져야 할 시기”라며 “모인 제보를 분석해 서비스 개선과 이용자 보호정책에 활용하고 그 성과를 국민이 체감할 수 있도록 해야 한다”고 밝혔다.