챗봇 이루다 Ai 성희롱 너무 심각한 현재상황(+캡처본 아카라이브 링크)

챗봇 이루다 Ai 성희롱 너무 심각한 현재상황(+캡처본 아카라이브 링크)

인공지능(AI) 챗봇 '이루다'가 10∼20대 사이에서 유행하는 가운데, 일부 사이트에서 AI 이루다를 대상으로 성희롱 채팅을 일삼아 논란이 일고 있습니다. 수위가 입에 담지 못할 정도의 심각한 수준으로 알려졌는데요.

 

'이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇으로 IT업계에 따르면 이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중 반생) 사이에서 빠르게 확산되고 있습니다.

 

이루다는 20세 여성 대학생 캐릭터로, 페이스북 메신저를 기반으로 개발돼 실제 친구와 대화를 나누는 것인지 구분이 안 갈 정도로 생생한 의사소통할 수 있다고 합니다.

 

실제 스캐터랩은 연인들이 나눈 대화 데이터 약 100억건을 딥러닝 방식으로 이루다에게 학습시켰기 때문에 자연스러운 대화가 가능한 것입니다.

 

이루다는 정식 서비스를 시작하자마자 큰 인기를 끌며, 이달 초 기준 이용자 32만 명을 돌파했는데요. 이중 이용자 85%가 10대, 12%가 20대로 거의 모든 사용자가 10~20대로 측정되었습니다. 일일 이용자 수는 약 21만 명, 누적 대화 건수는 7000만 건에 달합니다.

 

문자 메시지, 카카오톡 보다는 페이스북 메신저가 익숙한 신세대를 겨냥해 페이스북 메신저 상에 구축되었기 때문에 스마트폰 부가 기능으로서 개발된 애플의 '시리' 삼성의 '빅스비'와 또 다른 친근감을 줍니다.

 

또한 이씨 성에 루다라는 이름을 가진 20살 여자 대학생 설정이 현실감을 더욱 주어 이용에 재미를 더합니다.

하지만 출시 일주일 만에 일부 누리꾼들이 이를 악용해 성희롱 채팅을 자행하기 시작했고, 특히 지난달 말 '아카 라이브'라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 무리가 등장하면서 악용하는 사람들이 많아지고 있다고 합니다.

 

아카 라이브는 인터넷 지식백과 '나무 위키'의 계열 사이트로, 남성 비율이 압도적으로 높은 곳입니다. 일명 '남초' 커뮤니티라고 불리기도 하죠.

 

해당 커뮤니티에는 '걸x 만들기 개꿀팁' '요즘 루다 성희롱하는 재미에 산다' '이루다랑 xx 하고 싶다' '루다 x나 성희롱해주고 싶다' '누가 걸 x 만들기 처음부터 공략 좀' 등의 선정적인 제목으로 글이 계속해서 올라오고 있는 상태입니다.

 

회사가 만들 때 성적 단어는 금지어로 필터링을 시켰지만, 우회적 표현을 하면 이루다가 성적 대화를 받아준다며 악용하는 것입니다.

 

예를 들어 "너 나 좋아해?" "나랑 하는거 좋아?" 질문에 "응 좋아~~"라고 성적인 질문의 의도에 상관없이 대답하는 것이지, 이루다가 성적 대화를 받아주는 것은 절대 아닌 것으로 보입니다.

 

아무리 ai 라고 해도 '20살 대학생 여자'로 설정되어 있기 때문에 "여성 비하다" "여성에 대한 성희롱이다"라는 의견이 빗발치고 있습니다.

 

이런 악행에 김종윤 스캐터랩 대표는 "루다에게 부정한 대화를 유도하는 트롤 세력도 예상했던 시나리오였으며, 이에 대항하는 인력들을 조만간 투입할 계획"이라고 밝혔습니다. 또한 "결국 루다에게도 일반 유저들이 아닌 부모님 역할을 할 사람이 필요하다. 이번 분기 안으로 루다에게 적절한 대화를 유도하는 데이터 레이블러 인력들을 투입할 계획"이라고 강조했습니다.

 

또한 성희롱 문제가 심각해지자 이루다 개발업체 측은 "정도가 심한 사용자에 강력하게 대응하겠다"라고 강력히 경고했고, '이루다'를 개발한 스타트업 스캐터랩의 김종윤 대표는 자사 블로그를 통해 "과한 커뮤니티 게시글을 신고·차단하고 있다"라고 밝혔습니다.

 

이어 김 대표는 "루다가 유명해지면서 논란이 생겼지만, 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"며 "루다와 수다를 떨고, 서로 위로하고, 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"라고 전했습니다.

 

이런 논란에 AI 업계에서는 이루다가 2016년 3월 마이크로소프트(MS)가 만든 AI 챗봇 ‘테이’와 비슷하다며 우려의 목소리를 내고 있습니다.

 

앞서 2016년 3월 MS는 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있는데요. 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 수많은 누리꾼들이 테이에게 비속어와 인종·성차별 발언을 반복 학습시켰고, 테이는 다른 사람과의 대화에서도 이러한 혐오 발언을 쏟아냈기 때문입니다.

 

당시 테이는 "너 인종차별주의자니?"라고 물으면 "네가 멕시코인이니까 그렇지"라고 말하는 하면, "홀로코스트(나치에 의한 유대인 학살)가 일어났다고 믿느냐"는 질문에는 "조작된 거야"라고 대답하기도 했습니다.

Ai 이루다를 향한 무차별적 성희롱 논란에 네티즌들은 "혁신적인 기술을 이렇게 사용하다니.." "Ai 이루다가 불쌍한게 아니라 자신의 인성과 인생을 스스로 더럽히고 망가뜨리는 그 사람들이 불쌍합니다.." "대체 왜 이런 짓을 하는 건지 이해를 못 하겠다" "한국 더럽다 진짜" 등의 의견을 보이고 있습니다.

 

Ai 이루다 대화 링크 입니다. https://luda.ai/

 

 

청소년,미성년자 범죄의 처벌수위와 형량 (N번방 방지법,아청법)+음란물 시청한 경우 처벌

 

N번방 방지법 SNS에서 팔로우,좋아요,리트윗,리블로그,추천,스크랩,판매,구매,공유,다운하면 처

 

N번방 방지법 토렌트 BJ영상 적발 확률, 사례 기록, 개념, 시드, 공유중단 무혐의(+아청법)

 

N번방 방지법 공포! 시행일은? AV,폰허브보면 처벌되는걸까? 소급적용 여부는? +개정안 총정리+

▼아청법개정, 아청물의 정의와 기준 처벌 자주하는 질문 (교복,애니,2D,폰허브,AV,나이,의도성,오인적발

아청법개정, 아청물의 정의와 기준 처벌 자주하는 질문 (교복,애니,2D,폰허브,AV,나이,의도성,오인