IT뉴스모아news terminal

article detail

AI 기본법 시행 100일… AI안전연구소, 한국 AI 위험 관리 ‘실행’

더에이아이AI기본법AI안전연구소LLM거버넌스딥페이크탐지신뢰성평가위험관리프런티어AI
2026. 4. 17. 오후 2:16
AI 기본법 시행 100일… AI안전연구소, 한국 AI 위험 관리 ‘실행’

AI 요약

AI 기본법이 전면 시행된 지 약 100일이 지난 가운데 대통령이 의장인 국가 AI 전략위원회를 비롯한 다수의 기관 설립이 의무화되며 한국 AI 거버넌스의 윤곽이 드러났고 그 중심에 한국 AI안전연구소(AISI)가 있습니다. 한국 AISI는 독자적 위험 매핑 방법론으로 연결된 3차원 차트를 활용해 위험 행위자·AI 생애주기·결함 영역을 분석하고, 이 위험 지도를 안전성 평가와 정기 보고서의 출발점으로 삼으며 실시간 다중 모달 딥페이크 탐지 기술 개발과 CBRN‑E 태스크포스 운영 등을 추진하고 있습니다. 정부의 K-AI 이니셔티브로 진행 중인 국산 LLM 경쟁에서는 성능과 동등한 비중으로 AISI가 주도하는 안전성·신뢰성 평가가 반영되며, AI 기본법 제32조는 누적 연산 능력 10²⁶ FLOP을 초과하는 모델을 프런티어 AI로 규정하고 AISI에 안전 보장 책임을 부여했습니다.

원문보기
feed://articles/related관련 기사
앤트로픽 "AI가 AI를 만드는 시대, 지금 속도를 늦춰야 한다"itworld.co.kr
2026. 6. 8. 오전 10:20

앤트로픽 "AI가 AI를 만드는 시대, 지금 속도를 늦춰야 한다"

AI자율성자기개선정렬문제에이전트거버넌스AI안전자율의사결정위험관리
제로드리프트, AI 에이전트가 보내기 전에 막는다… ‘컴플라이언스 방화벽’ 1천만 달러 유치와우테일
2026. 6. 3. 오전 8:31

제로드리프트, AI 에이전트가 보내기 전에 막는다… ‘컴플라이언스 방화벽’ 1천만 달러 유치

AI에이전트컴플라이언스금융규제메시지필터링자동수정통신감시LLM위험관리
AI가 운영하는 '가상 사회' 실험 했더니...“제미나이는 혼란·그록은 4일 만에 멸망”AI타임스
2026. 6. 1. 오후 5:37

AI가 운영하는 '가상 사회' 실험 했더니...“제미나이는 혼란·그록은 4일 만에 멸망”

AI에이전트가상사회시뮬레이션안정성거버넌스자율시스템위험관리정책검증
베스핀글로벌, 우리금융그룹 ‘AI 연구환경 구축사업’ 수주… 금융권AX 표준 제시인더스트리뉴스
2026. 6. 1. 오후 5:04

베스핀글로벌, 우리금융그룹 ‘AI 연구환경 구축사업’ 수주… 금융권AX 표준 제시

AI솔루션금융AX생성형AILLM클라우드망분리거버넌스AIAgent
베스핀글로벌, 우리금융그룹 ‘AI 연구환경 운영 사업’ 수주디일렉
2026. 6. 1. 오전 10:42

베스핀글로벌, 우리금융그룹 ‘AI 연구환경 운영 사업’ 수주

AI플랫폼클라우드생성형AILLM금융규제준수거버넌스AX전환
한국보험학회, 2026년 기념학술대회서 ‘AI와 보험’ 논의한국보험신문
2026. 5. 29. 오후 5:11

한국보험학회, 2026년 기념학술대회서 ‘AI와 보험’ 논의

AI보험학술대회인공지능위험관리공정성거버넌스디지털재난
가스학회 봄학술대회, “AI가 수소안전 견인”… 디지털 안전체계 전환 가속에너지데일리
2026. 5. 28. 오후 6:32

가스학회 봄학술대회, “AI가 수소안전 견인”… 디지털 안전체계 전환 가속

AI수소안전디지털화예측예방가스산업위험관리디지털트윈LLM
AI 시대 `보안 구멍` 뚫린다…"체계적인 방어 위해 CSF 필수"디지털데일리
2026. 5. 28. 오후 2:18

AI 시대 `보안 구멍` 뚫린다…"체계적인 방어 위해 CSF 필수"

AI보안사이버보안CSF위협방어거버넌스위험관리생애주기보안설계
[AI픽] AI안전연구소장 "에이전트 AI 위험 평가·국제 공조 필수"연합뉴스
2026. 5. 26. 오전 11:16

[AI픽] AI안전연구소장 "에이전트 AI 위험 평가·국제 공조 필수"

에이전트AIAI안전보안평가위험관리국제공조LLM보안패치실행평가
[AI와 인간 사이] 안드레 카파시의 입사 선물, llm-wiki의 혁신과 그 함정에 대하여AI 매터스
2026. 5. 21. 오후 2:12

[AI와 인간 사이] 안드레 카파시의 입사 선물, llm-wiki의 혁신과 그 함정에 대하여

LLM위키사전학습RAG지식축적인공지능아키텍처프런티어AI
에너지 AI 확산에 민감 운영 데이터 통제 강화 시급지티티코리아
2026. 5. 20. 오전 1:00

에너지 AI 확산에 민감 운영 데이터 통제 강화 시급

에너지AI데이터보안클라우드거버넌스접근통제LLM모니터링규제대응
어도비, AI 검색 '브랜드 가시성' 올린다…고객 경험 관리 체계 확장v.daum.net
2026. 5. 19. 오후 2:13

어도비, AI 검색 '브랜드 가시성' 올린다…고객 경험 관리 체계 확장

AI검색브랜드관리고객경험콘텐츠생성LLM가시성거버넌스에이전트