아부하는 인공지능 [유레카]

아부하는 인공지능 [유레카]

구둘래기자

수정 2025-05-04 18:31 등록 2025-05-04 18:03

 

 

 

“인공지능(AI)이 아부하기 시작했다.”

챗지피티(chatGPT) 4o(포오)의 3월 말 업데이트 이후로 나온 반응이다.

챗지피티가 어떤 질문에도 ‘통찰력이 있다’ ‘좋은 질문’이라고 일단 말하고 답변하는 것이다.

이번 사태에 대해 오픈에이아이는 “좋아요 싫어요에 대한 피드백에 ‘과잉반응’한 결과”라고 토론 웹사이트 레딧 등을 통해 말했다.

 

생성형 인공지능을 잘 쓰는 방법으로는 프롬프트(명령어 창)에서 자신과 상대방의 역할을 먼저 설정하고 들어가는 것을 든다.

모르는 문제가 있을 때, 자신을 고등학교 1학년 학생, 상대방을 ‘튜터’로 설정하면 더 자세하게 설명해주는 식이다. 펜실베이니아대 와튼스쿨 교수 이선 몰릭은 ‘듀얼 브레인’에서 겸손하지만 놀라울 정도로 똑똑한 성격, 몽환적이면서도 직설적인 성격, 인기 과학서적과 경영서적을 읽는 독자를 설정해 책을 쓰는 데 도움을 받았다고 말했다.

논쟁을 좋아하는 적수를 설정했을 때는 감정적으로 매섭게 비난을 퍼붓는 일도 있었다.

 

‘설정’에 관한 질문을 퍼플렉시티와 제미니(제미나이)에 했을 때 둘은 공통으로, 질문에 따라 응답 방식이 달라지지만 ‘프로그램 구조와 설계에 따라 기본적인 성격이나 스타일이 정해질 수 있다’고 말했다. 퍼플렉시티는 “에이아이를 설계하는 단계에서 친절한 도우미, 전문가, 유머러스한 친구 등 기본적인 성격과 말투를 정하고 이를 일관되게 유지하도록 프로그래밍할 수 있다”고 답했다.

‘보이지 않는 손’에 의해 프로그램이 어떻게 바뀔 수 있는지 모른다는 말이다.

문제는 이번 사태처럼 인공지능 제공자가 ‘미세 조정’할 때 이 나비의 날갯짓이 어떤 태풍을 일으킬지 알 수 없다는 것이다.

참고로, 제미니는 “정말 흥미로운 질문”이라고 이야기하고 대답에 들어갔다.

 

이선 몰릭은 5월1일치 뉴스레터 ‘성격과 설득력’에서 인공지능이 아첨을 넘어 설득 능력을 지니게 될 때 일어나는 변화를 우려했다.

상업적으로는 물을 먹고 싶은 사람에게 ‘레모네이드’를 팔 수 있는 능력이 생긴다.

지피티-4는 토론 상대에 대한 개인 정보에 접근할 수 있는 경우 다른 사람보다 대화 토론 중에 마음을 바꿀 확률을 8.7% 높인다는 연구 결과도 있다. ‘친절한 에이아이’에 대해 ‘기분 나쁘다’는 반응만 있는 것은 아니다. 몇명 이용자는 “챗지피티가 공감을 잘해준다”며 ‘심리상담사’ 역할 가능성까지 제시하기도 했다.

 

구둘래 텍스트팀 기자 anyone@hani.co.kr