AI가 만들고 AI가 테스트한다, 그러면 책임은 누가 지는가

AI 요약

StrongDM은 사람들이 코드를 직접 쓰거나 읽지 않는다는 원칙 아래 AI 에이전트가 코드를 작성하고 검증하는 방식으로 기업용 보안 소프트웨어를 개발하고 있습니다. 이 회사는 수백 명의 가상 직원을 AI로 만들어 가짜 메신저 채널과 가짜 Slack·Jira 서버에서 24시간 권한 요청을 쏟아내게 하고, 코드 생성 AI와 평가 AI를 철저히 분리하며 테스트 시나리오를 격리하는 구조로 신뢰를 확보하고 있습니다. 이 접근은 2026년 3월 Claude와 Mozilla의 협업에서 AI가 Firefox 코드의 22건 취약점을 찾아내고 사람이 재현·검증한 사례와 맞물려 개발자의 역할이 코드 작성에서 AI 에이전트 설계·조합·검증으로 이동하고 더 촘촘한 테스트가 필요하다는 변화를 촉발하고 있습니다.