콘텐츠 바로가기
본문 바로가기


 

AI가 쓴 텍스트를 검출하는 AI 도구 하버드대에서 개발

인공지능(AI) 알고리즘은 일반 인간을 속일 정도의 설득력 있는 문장을 생성 할 수 있다. 즉, AI를 사용하면 가짜 뉴스와 거짓말의 리뷰 기사, 거짓말 소셜 계정을 대량 생산할 수 있다는 것이다. 그러나 다행히 AI가 생성 한 가짜 문장을 판별할 수 있는 AI 도구가 등장하고 있다.
하버드 대학 MIT- IBM 왓슨 AI 연구소 의 연구자들은 한 문장이 AI에 의해 생성 된 것인지 여부를 알아 보는 새로운 AI 도구를 개발했다 . '자이언트 언어 모델 테스트 룸 (GLTR)'라고 불리는 이 AI 도구는 AI에 의한 문장 생성 시스템은 단어 나 문장 이 가진 실제 의미가 아니라 문장의 통계 학적 패턴에 따라 문장을 만드는데 이용한다 . 즉, 이 도구는 지금 당신이 읽고 있는 문장이 인간이 쓴 것인지 아닌지를 "예측대로" 판단 할 수 있다.
현재 AI의 보급으로 가짜 정보 생성의 자동화가 진행되고있다. 게다가 이러한 가짜 텍스트 또는 이미지를 생성하는 기술은 빠르게 진화하고있다. AI가 생성 한 문장을 간파 AI 도구는 가짜 뉴스와 가짜 이미지 트위터 봇을 찾는 데 강력한 무기가 될지도 모른다.
비영리 연구 기관인 오픈 AI (OpenAI)의 연구 그룹은 앞서 놀라운 사실적인 문장을 생성할 수 있는 알고리즘을 보여주었다. 연구팀은 방대한 양의 글을 거대한 기계 학습 모델에 입력 한 단어의 통계 학적 패턴을 추출하는 것을 배워야 했다. 이번에 발표된 AI 도구는 OpenAI로 일반 버전의 알고리즘을 사용하고 있다.
GLTR 텍스트에 선행하는 단어와 통계 학적으로 나타날 가능성이 높은 단어를 색으로 눈에 띄게한다. 위의 이미지 (출처 : Infinite Jest)에 있듯이, 가장 가능성이 높은 단어 단어는 녹색으로 가능성이 그다지 높지 않은 단어는 노란색과 빨간색으로 분류되고 있다. 가장 가능성이 낮은 단어는 자주색이다. OpenAI 알고리즘이 만든 문장의 일부를 사용하여 테스트하면 예측가능한 단어가 아주 많이 볼 수있다. 인간이 쓴 실제 뉴스 기사 및 학술 논문의 요지에 GLTR을 적용한 경우에는 상당히 다른 결과를 얻을 수있다.
GLTR을 개발한 그룹은 다른 실험도 실시했다. 하버드 대학의 학생들에게 먼저 GLTR 없이 AI가 생성한 텍스트 여부를 판별하고 그 후에 GLTR의 색 표시를 사용하면서 판별시킨 것이다. 학생들은 자력으로는 AI가 생성한 텍스트를 절반 밖에 알아 차리지 못했지만, GLTR을 사용한 경우는 72%를 간파했다. "우리의 목표는 사람과 AI가 협업하는 시스템을 구축하는 것입니다"라고 이 연구에 참여한 박사 과정 대학원생 세바스찬 게루만은 말했다.
관심있는 사람은 여기에서 시험해 보자.
 
David Sibbet Visual Thinking 데이비드 시베트 비주얼씽킹

 

[도서] David Sibbet Visual Thinking 데이비드 시베트 비주얼씽킹 : 내부 혁신과 비전 제시, 효율적인 관리를 위한 새로운 스타일의 기법과 강력한 도구들-비주얼 씽킹 시리즈

데이비드 시베트 저/박준 역 | 생각정리연구소 | 2018년 06월




http://www.yes24.com/Product/Goods/62067856?scode=032&OzSrank=13
 
취소

댓글쓰기

저장
덧글 작성
0/1,000

댓글 수 0

댓글쓰기
첫 댓글을 작성해주세요.

PRIDE1