AI 기본법 (인공지능 기본법)은 국내 인공지능 산업의 건전한 발전을 지원하고 AI에 대한 신뢰 기반을 조성하기 위해 제정된 법률로, 정식 명칭은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」입니다. 2026년 1월 22일 시행령과 함께 시행됐으며, AI 산업 진흥과 안전·신뢰 확보를 함께 다루는 포괄적인 법률입니다. 모든 AI를 일률적으로 규제하기보다 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미칠 수 있는 고영향 AI와 생성형 AI를 중심으로 사업자의 책무를 규정한다는 점이 특징입니다.

고영향 AI에는 에너지 공급, 먹는물 생산, 보건의료, 원자력 시설 관리, 범죄 수사를 위한 생체정보 분석, 채용·대출 심사, 교통, 공공서비스, 학생 평가 등의 영역에서 활용되는 AI가 해당됩니다. 고영향 AI를 제공하는 사업자는 위험관리 방안, AI 결과에 대한 설명 방안, 이용자 보호 방안을 수립·운영하고, 사람이 AI를 관리·감독할 수 있도록 해야 하며, 안전성·신뢰성 확보 조치에 관한 문서를 5년간 보관해야 합니다. 또한 자사 제품·서비스가 고영향 AI에 해당하는지 확인해야 하고, 판단이 어려운 경우 과학기술정보통신부에 확인을 요청할 수 있습니다. AI가 기본권에 미치는 영향을 사전에 평가하는 영향평가는 노력 의무로 규정되어 있으며, 국가기관은 영향평가를 거친 제품·서비스를 우선 고려하도록 했습니다.

투명성 확보를 위해 고영향 AI나 생성형 AI 기반의 제품·서비스를 제공할 때는 이를 이용자에게 사전에 고지해야 하며, 생성형 AI 결과물에는 AI로 생성되었음을 표시해야 합니다. 일반 콘텐츠는 사람이 인식할 수 있는 표시나 워터마크 같은 기계 판독 방식을 활용할 수 있지만, 딥페이크 결과물은 이용자가 명확히 인식할 수 있는 방식으로 표시해야 합니다. 이 밖에 학습 누적 연산량이 10의 26승 부동소수점 연산 이상이면서 기본권에 광범위한 영향을 미칠 수 있는 대규모 AI에는 위험 식별·평가·완화 결과를 제출할 의무가, 국내에 주소나 영업소가 없는 일정 규모 이상의 해외 사업자에는 국내대리인 지정 의무가 부과됩니다. 사전 고지나 국내대리인 지정 의무를 위반하면 최대 3천만 원의 과태료가, 표시 의무나 고영향 AI 사업자 책무를 지키지 않으면 시정명령이 내려질 수 있으며, 정부는 제도 정착을 위해 사실조사와 과태료 부과에 1년 이상의 계도 기간을 두고 있습니다.

고영향 AI 사업자에게 요구되는 위험관리, 문서화, 사람의 관리·감독 같은 조치는 체계적인 AI 경영체계를 갖추는 데서 출발합니다. 파수 AI는 ISO42001/AIMS 인증 컨설팅을 통해 기업의 AI 거버넌스 구축을 지원합니다. ISO/IEC 42001은 2023년 제정된 세계 최초의 인공지능 경영시스템 국제표준으로, 파수 AI는 기업의 AI 활용 수준과 운영 환경을 진단하고 표준 요구사항과의 차이를 분석해 맞춤형 개선 방안을 제시합니다. 윤리적 책임, 데이터 품질, 보안, 위험 평가, 지속적 개선을 아우르는 AI 경영체계를 갖춤으로써 강화되는 AI 관련 규제에 선제적으로 대응할 수 있습니다.