|
Untitled Document
|
|
|
| subject |
섹파 젊은 섹파 늙은 섹파 |
date |
2025-08-23 |
|
|
|
|
|
영계 섹파
아줌마 섹파
◆ 거짓말도 실력이다?···AI 진화의 딜레마
최신 AI 모델의 환각 현상 증가는 AI 기술이 직면한 근본적인 딜레마를 보여준다. 더 똑똑해지고 인간과 유사한 사고방식을 갖추려는 시도가 오히려 인간의 약점인 '확신에 찬 오류'까지 학습하는 역설적 결과를 낳고 있다.
흥미로운 점은 인간 역시 지식이 늘어날수록 자신감이 과도하게 상승해 실제로는 틀린 정보를 확신하는 '던닝-크루거 효과'와 유사한 현상을 AI가 보이고 있다는 것이다. 이제 AI는 단순히 지식을 축적하는 단계를 넘어, 인간처럼 생각하고 추론하는 과정에서 인간의 인지적 편향까지 닮아가고 있다.
업계 관계자는 "추론 능력이 강화된 최신 모델일수록 결과를 추론하는 과정에서 논리적 비약이 발생할 가능성이 높아진다. 마치 천재적 두뇌를 가진 사람이 종종 직관에 의존해 논리적 단계를 건너뛰는 것과 비슷하다“고 말했다.
컴트루테크놀로지 전략마케팅팀 김현정 팀장은 “생성형 AI의 허위 정보 유포 현상을 완화하기 위해 프롬프트 엔지니어링과 RAG 기술 도입이 시급하다”고 조언한다.
AI에게 모호한 질문에 대해선 김 팀장은 "'잘 모르겠다'고 답하도록 근거가 불충분한 정보는 '확실하지 않음'으로 표시하도록 유도하는 방식이 매우 중요하다. 실제로 '모호한 부분은 잘 모르겠다고 답변하세요', '추측하지 말고 사실에 근거한 답변만 제공하세요'와 같은 지침을 통해 AI가 잘못된 정보를 전달하는 빈도를 줄일 수 있도록 하는 게 사용자의 역할"이라고 설명했다. 이어 "프롬프트 엔지니어링 및 RAG 기술은 환각현상을 일정 부분 해소하는 데 기여할 수 있다"고 언급했다.
업계 관계자는 "AI 기술의 진정한 발전은 단순히 더 똑똑해지는 것이 아니라 자신이 알고 있는 것과 모르는 것의 경계를 명확히 인식하는 ‘지적 겸손함’을 갖추는 데 있다"면서 "마치 현명한 사람이 '나는 내가 모른다는 것을 안다'고 말했던 것처럼 아무리 기계라도 '겸손'이라는 미덕이 필요하며 그렇게 만드는 게 곧 사용자의 역할"이라고 귀띔했다.
|
|
|
|
|
|
|
|
.jpg){kind=link}