똑똑한 AI

AI 요약

지금의 AI는 사람처럼 대화하고 논문을 요약하며 그림과 프로그램을 만드는 등 지식과 계산·언어 능력에서 뛰어나 똑똑하다고 여겨지지만, 기사에서는 지식과 판단·지혜가 다르다고 지적했습니다. 현재 생성형 AI는 확률 기반 시스템으로 학습 데이터 안에서 그럴듯한 답을 생성하기 때문에 옳음과 그럴듯함이 다를 수 있어 틀린 답도 자신 있게 말할 수 있으며, 이는 다니엘 데넷이 말한 Competence without Comprehension으로 설명된다고 했습니다. AI를 의인화하면 책임이 흐려질 수 있고, 국방·의료·자율주행 등 핵심 영역에서는 보안·통제권·데이터 주권·책임 문제를 고려한 독자 파운데이션 모델(독파모)과 디지털트윈 기반 Operational AI 및 시뮬레이션 기반 검증 체계가 필요하다고 했습니다.