- OpenAI 보고서 통해
- “러시아, 중국 – 비밀 작전에 AI 기능 활용했다”
- 온라인 대상, 여론 조작 및 지정학적 갈등 조장 목적
- 이란과 이스라엘도 있으나 성과 못 본 것으로 파악
OpenAI는 보고서를 통해 러시아와 중국이 비밀 작전에 자사 AI 기능을 활용했다고 전했습니다.
식별된 것만 5건으로 모두 온라인을 대상으로 생성형 AI 기술을 활용해 여론을 조작하고 지정학적 갈등을 조장하고자 했던 것으로 알려집니다.
더불어, 이란과 이스라엘 역시 온라인 여론전을 위해 도구들을 악용했으나 별다른 성과는 없었던 것으로 파악하고 있습니다.
뉴욕 타임스는 AI 회사가 자사 특정 도구의 정치적 목적 악용을 공개한 첫 사례라는 점에 주목하며 소위 ‘가짜 뉴스’로 일컬어지는 온라인 정보 오남용 및 지정학적 갈등 조장에 대한 우려를 전했습니다.
OpenAI의 벤 니모는 “이번 케이스 스터디에서 공개한 예시들은 이미 널리 알려져 있고 장기간에 걸쳐 수행돼 온 현재 진행형 임무들”이라고 설명했습니다.
이어서, 사측은 ‘짧은 댓글 생성’, ‘다양한 언어로 긴 기사 작성’, ‘소셜 미디어 계정을 위한 가짜 이름과 약력 생성’, ‘단순한 코드 디버깅’ 및 ‘문서 번역, 교정’ 요청 중 수상한 것들을 차단했다고 밝혔습니다.
온라인에서 갈등을 조장하는 글과 댓글 중 일부는 실제로 다른 국적의 사용자가 AI를 통해 생성한 것들일 수 있다는 얘기가 되었는데요.
애틀랜타 의회 디지털 포렌식 연구원은 “완전히 새로운 유형의 도구”라고 강조하며 “어느 수준까지 영향을 끼칠 수 있는지 아직도 더 확인할 것들이 남았다”고 지적했습니다.
여러분들은 어떻게 생각하시나요?