‘연애 챗봇’앱 이용자, 위험 노출..주의해야 할 포인트

최근 모질라 재단(Mozilla Foundation)은 소위 ‘연애 챗봇’ 또는 ‘동반자 챗봇’앱 11개를 분석한 보고서를 발표, 'AI 여자친구' 또는 'AI 남자친구' 관련 보안 및 개인 정보 보호 문제를 폭로했습니다.

보고서에 따르면 안드로이드 기기에서 1억 회 이상 다운로드된 이러한 앱은 보기보다 숨겨진 위험이 아주 큽니다.

대량의 사용자 데이터를 수집할 뿐만 아니라 트랙커를 사용, 정보를 Google이나 Facebook과 같은 제3자 회사에 전송하기도 합니다.

이러한 'AI 이성친구' 또는 로맨틱 챗봇 서비스는 AI가 생성한 이성 이미지를 사용하여 사용자와의 상호작용을 유도합니다.

그러나 이러한 앱은 사용자의 개인 정보를 공개할 뿐만 아니라 역할극에 참여하도록 이끌어 사적인 사진이나 목소리와 같은 민감한 정보 공유를 유도할 수 있습니다.

모질라의 연구 프로젝트를 주도한 젠 칼트리더(Jen Caltrider)는 "이러한 앱은 많은 개인 정보를 수집하도록 설계돼 있으며, 역할극에 참여하여 친밀한 관계를 형성하고 많은 프라이버시에 속하는 것들을 공유하도록 유혹할 것"이라고 말합니다.

예를 들어, ‘EVA AI 챗봇’의 스크린샷을 보면 사용자에게 사진과 음성을 보내라고 권유하며 "당신의 모든 비밀과 소원을 공유할 준비가 되었는지"를 묻는 메시지가 표시됩니다.

예를 들어 "나만의 AI 여자 친구를 만들 수 있다"고 주장하는 ‘로맨틱 AI’서비스의 경우, Mozilla 연구원들은 실제 테스트를 통해 단 1분 만에 2만 4354개의 광고 트래커를 전송한 것으로 확인했습니다.

‘로맨틱 AI’를 비롯한 Mozilla의 연구에 등장한 다른 많은 챗봇 기업들은 논평 요청에 대해 침묵을 지켰습니다.

다른 모니터링 대상 앱들에서도 수백 개의 트래커가 사용자의 데이터를 활발하게 수집하고 있기 때문에 ‘로맨틱 AI’가 특별한 경우는 아닙니다.

더욱 우려스러운 점은 이러한 챗봇 배후의 회사들이 어떤 기업인지 흔히 베일에 가려져 있다는 사실입니다.

예를 들어, '미미코-당신의 AI 친구'라는 앱은 웹사이트에 "Hi"라는 한 단어만 있을 뿐 회사 소유주나 위치에 대한 정보가 전혀 없습니다. 물론 이 회사만 이런 것은 아닙니다.

비밀번호 보안 측면에서도 연구원들은 비밀번호로 숫자 1만 사용하여 'AI 남자친구'와 'AI 여자친구' 서비스를 제공하는 ‘Anima AI’의 앱에 로그인할 수 있었습니다. ‘Anima AI’도 연구진의 논평 요청에는 응답하지 않았습니다.

이 보고서는 인간의 특성을 모방해 사용자가 신뢰관계 및 친밀관계를 구축하도록 설계된 챗봇 앱에 대한 심층적인 분석을 제공합니다.

그러나 어떤 사람들은 챗봇과 채팅을 하다가 영국 왕을 살해하고 싶은 유혹을 받기도 하고, 어떤 사람들은 챗봇과 6주 동안 대화를 나눈 후 자살을 선택하기도 했습니다.

또한 사용자는 챗봇과 대화하다 실수로 민감한 개인 정보를 노출할 수도 있습니다.

챗봇 시스템에 대한 해킹이나 데이터 유출이 발생하면 이 정보가 악용되어 사용자의 평판이 손상되고 범죄에 이용될 수 있습니다.

보안 회사 ‘Proofpoint’의 부사장 아데니케 코스그로브（Adenike Cosgrove)는 사이버 범죄자들이 사람들의 신뢰를 이용해 사기를 저지르는 경우가 많다고 지적합니다.

많은 사용자가 데이터 프라이버시의 영향력을 간과하기 때문에 특히 감정적으로 취약한 시기에 노출한 프라이버시가 악용당할 위험이 큽니다.

칼트리드 연구원은 연애 챗봇 사용자들에게 복잡한 비밀번호를 사용하고, Facebook이나 Google과 같은 계정과 연결된 앱을 피하며, 정기적으로 데이터를 삭제하고, 데이터 수집을 거부하라고 조언합니다.

그녀는 "공유되는 개인 정보를 최대한 제한하고 이름, 위치, 나이와 같은 민감한 정보를 공개하지 않도록 주의하라. 하지만 그렇게 한다고 해서 데이터가 완전히 안전하다고 보장할 수는 없다"고 경고합니다.

SOH 뉴스 정현진입니다.
구독과 좋아요는 저희 채널에 큰 힘이 됩니다.
시청해주셔서 고맙습니다.