AI가 만들고 AI가 테스트한다, 그러면 책임은 누가 지는가

AI 요약

StrongDM은 사람은 코드를 직접 쓰거나 읽지 않는 원칙 아래 AI 에이전트들이 코드를 작성하고 수백 명의 가상 직원을 만들어 Slack·Jira 등 가짜 서버에서 24시간 권한 요청을 시뮬레이션하며 테스트합니다. 이 방식은 코드 생성 비용을 낮추는 반면 검증 비용은 오히려 증가함을 보여주며, 2026년 3월 엔트로픽의 Claude가 Firefox 코드에서 22건의 보안 취약점을 찾아내자 Mozilla는 사람이 재현·검증하고 우선순위를 매긴 사례가 이를 증명했습니다. StrongDM은 개발 AI와 평가 AI를 분리하고 테스트 시나리오를 격리하는 구조로 책임을 명확히 하며, 윌리슨은 개발자의 역할이 AI 에이전트를 설계·조합·검증하는 에이전틱 엔지니어링으로 바뀌고 있다고 설명합니다.