AI가 위험하다? 도대체 뭐가?

AI 요약

현재 인공지능이라고 부르는 것에는 대규모언어모델(LLM), LLM을 감싸는 실행·중개 시스템, 그리고 인간의 세 층이 섞여 있다고 설명합니다. 사람은 LLM과 직접 대화하지 않으며 입력과 출력은 운영체제·응용 소프트웨어·API·오케스트레이션 등 중개 시스템을 거치고, LLM의 출력이 인터넷 검색·Python 실행·파일 삭제·결제 같은 현실 행동이 되려면 별도의 외부 도구와 권한이 필요합니다. 에이전트(또는 에이전틱 AI)는 LLM에 새로운 지능을 더한 것이 아니라 LLM을 도구들과 연결해 결과를 다시 LLM에 돌려주고 반복시키는 실행 구조를 규모와 권한 면에서 확장한 것이라고 설명합니다.