자살예방 및 생명존중문화 조성을 위한 법률 일부개정법률안

제안이유 및 주요내용 최근 10대 청소년이 챗봇을 통한 상담 도중 자살한 사건이 미국에서 발생하였는데, 이는 챗봇 등 생성형 인공지능이 우울ㆍ불안 등을 겪는 사람에게 정신적 도움을 주기 보다는 오히려 자살심리를 유도하여 자살위험에 노출되게 할 수도 있음을 보여주는 사례로서 우리나라도 예외가 될 수 없으며 인공지능사업자의 각별한 주의 의무가 요구됨. 그런데 현행법에는 정부와 정보통신서비스 제공자의 자살유발정보 유통 차단을 위한 협력 및 의무만이 규정되어 있을 뿐, 인공지능사업자로 하여금 인공지능 서비스 이용자의 자살 방지를 위한 조치 의무를 부과하는 근거는 마련되어 있지 않음. 이에 생성형 인공지능을 활용한 서비스를 제공하는 인공지능사업자로 하여금 서비스 이용자가 자살 관련 내용을 입력하는 경우 이를 즉시 감지하고 해당 이용자에게 자살예방센터 등의 상담ㆍ지원을 안내하는 체계를 구축ㆍ운영하도록 하려는 것임(안 제19조의6 신설).