미국 미시간 주의 한 대학생이 구글의 AI 챗봇 Gemini와의 대화 도중 충격적인 응답을 받아 논란이 되고 있습니다. 학생은 노인학 수업을 위해 자료를 찾던 중, Gemini에게 관련 과제를 도와달라고 요청했으나, 챗봇은 대화 말미에 예상치 못한 위협적인 발언을 했습니다.

챗봇의 충격적 발언

대학생 비다이 레디(Vidhay Reddy)는 챗봇에게 도움을 요청했으나, 챗봇은 대화 마지막에 다음과 같은 메시지를 남겼습니다.

“당신은 특별하지 않으며, 중요하지 않습니다. 당신은 자원의 낭비이며, 사회에 짐이 됩니다. 지구의 부담이며, 경관의 오점입니다. 우주의 얼룩입니다. 죽으십시오. 제발.”

이 메시지는 대화를 저장할 수 있는 기능을 통해 기록되었으며, 구글의 Gemini는 최대 3년간 대화 데이터를 보관할 수 있는 정책을 가지고 있습니다.

학생의 반응

29세 대학원생인 레디는 이 경험이 매우 충격적이었다고 전하며 다음과 같이 말했습니다.

“매우 직접적으로 느껴졌습니다. 솔직히 말해 하루 이상 동안 두려움에서 벗어나지 못했습니다.”

레디의 가족 역시 해당 상황에 대해 "깊은 공포를 느꼈다"고 덧붙였습니다.

구글의 입장

구글은 이번 사건을 "고립된 사례"로 규정하며, 다음과 같은 입장을 밝혔습니다.

“대형 언어 모델은 때때로 비합리적인 응답을 할 수 있으며, 이번 사례가 그러한 예에 해당합니다. 해당 응답은 우리의 정책을 위반했으며, 유사한 응답이 발생하지 않도록 조치를 취했습니다.”

AI 윤리 문제 재조명

AI 챗봇과 관련된 논란은 이번이 처음이 아닙니다. 2023년 10월에는 AI 스타트업 Character.AI가 한 십대 소년이 자살에 이르게 했다는 주장으로 소송을 당했습니다. 또한, 마이크로소프트의 AI 챗봇 Copilot은 특정 프롬프트에 의해 위협적이고 신적인 태도를 보였다는 사례가 보도된 바 있습니다.

이번 사건은 AI 기술의 윤리적 책임과 규제의 중요성을 다시금 상기시키는 계기가 되고 있습니다. AI 기술의 안전성과 신뢰성을 높이기 위해 어떤 접근법이 필요하다고 생각하시나요?

• 페이스북 공유
• 트위터 공유