[12월25일]한-미 AI신뢰성 기준,새해 빅테크 AI 에이전트 시대,국가망보안체계로 변경

타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.

 

2024년  12월 25일(수) 주요 IT 뉴스

한-미 AI신뢰성 기준 엇비슷···"94%가 호환 가능"

대표사진 삭제

사진 설명을 입력하세요.

과기정통부와 한국정보통신기술협회(TTA, 회장 손승현)는 우리나라 ‘신뢰할 수 있는 AI개발안내서’(이하 ‘AI개발안내서’)와 美 상무부 국립표준기술연구소(이하 ‘NIST’)의 AI위험관리프레임워크(이하 ‘AI RMF’) 간 상호 교차분석(Crosswalk)을 완료했다고 24일 밝혔다.

 

 

AI 신뢰성 확보를 위한 한국-미국 교차분석 결과

• 교차분석 개요
  • 대상: 한국 ‘AI개발안내서’와 미국 NIST ‘AI RMF’
  • 기간: 2023년 2월~12월
• 결과:
  • 67개 세부 검증 항목 중 63개(94%)가 상호 호환성 확인
• ‘AI개발안내서’ 주요 내용
  • 2021년 개발, 인공지능 신뢰성 확보 위한 15개 기술 요구사항 제시
  • 민간자율 AI 신뢰성 인증 운영 (2023년 11월 시작, 7건 인증)
  • 단체표준 제정(2023년 12월), 지속가능한 인공지능 혁신 생태계 지원
• ‘AI RMF’ 특징
  • NIST에서 2023년 1월 발표, 글로벌 차원의 신뢰성 프레임워크
  • 인공지능 시스템 설계·개발·활용 관련 위험 이해 및 관리 지원
• 교차분석 결과 및 효과
  • 세부 항목의 대부분 조화, 양 가이드라인 유사하게 활용 가능
  • 한국 인공지능 신뢰성 체계의 글로벌 수준 및 완성도 확인
  • 차이점은 ‘AI개발안내서’ 고도화 시 반영 예정
• 향후 계획
  • NIST와 기술협력 강화, 글로벌 기술표준·규범과 정합성 확대
  • 인공지능 신뢰·안전성 정책 지원 강화 및 국제 표준화 적극 추진

 

새해 빅테크 AI 에이전트 시대 열린다…데이터 편향·책임소재 해결은 숙제

 

 

소프트웨어정책연구소(SPRi)는 'AI 에이전트 동향' 보고서에서 빅테크 기업이 인공지능 에이전트 시장에 잇따라 진출하며 다양한 수익 모델을 창출하기 시작했다고 밝혔다.

 

AI 에이전트 시장 동향 및 과제

 

시장 동향

• 빅테크 기업들이 AI 에이전트 개발·운영에 적극 진출하며 경쟁 본격화
• 인공지능 에이전트 특징: 독립적 결정 능력, 실시간 데이터 처리 및 상호작용
• 주요 활용 분야: 고객서비스, 스마트홈, 산업 자동화 등
• 시장 규모 전망: 2024년 51억 달러 → 2030년 471억 달러(연평균 성장률 44.8%)

 

기업별 전략

• MS:
  • 클라우드 플랫폼 애저 중심 인공지능 에이전트 개발
  • 오픈AI 협력, 챗GPT 등 통합
• 구글:
  • 구글 어시스턴트, 다이알로그플로우, 제미나이 모델 기반 인공지능 비서
• 애플:
  • 시리 및 온디바이스 학습, 개인정보 보호 중심 서비스
• 메타:
  • 메타버스와 인공지능 연결, 페이스북·인스타그램 등 플랫폼 활용
• 오픈AI:
  • 자율형 인공지능 에이전트 ‘오퍼레이터’ 출시 예정

 

성장 과제 및 문제점

• 기술적 문제:
  • 데이터 편향 및 판단 정확성 저하 위험
• 법적 문제:
  • 인공지능 판단 오류 시 책임 소재 불분명
• 윤리적 문제:
  • 개인정보 침해 및 데이터 유출 우려
• 대책 필요성
  • 생명·안전과 직결되는 인공지능(자율주행, 의료) 법적 규제 강화
  • 개인정보 보호 및 데이터 사용 관리 대책 마련 요구

 

 

새해 망분리 사업, '국가망보안체계'로 변경 요청…제도 안착 유인

 

새해 시범사업을 시작으로 공공분야의 획일적인 망분리 정책 개선을 목표로 하는 '국가망보안체계(N²SF)'가 시행된다.

국가정보원은 망분리 사업이 예정된 공공기관에 국가망보안체계로 설계 변경을 요청하는 등 제도 조기 안착에 주력할 계획이다.

 

국가망보안체계(N²SF) 시행

• 시행 배경 및 목표
  • 획일적 망분리 정책 개선, 보안 자율성 및 신기술 활용 여건 조성
  • 업무정보 중요도에 따라 기밀(C), 민감(S), 공개(O) 등급 분류 및 차등 보안 적용

 

국가망보안체계 주요 내용

 

• 다섯 단계 적용 절차:
  1. 준비
  2. C·S·O 등급 분류
  3. 정보서비스 모델링
  4. 보안대책 수립
  5. 적절성 평가 및 조정
• 등급 기준:
  • 복수 등급 정보 포함 시 상위 등급 기준 적용
  • 정보시스템 등급별 분리 권고

 

• 가이드라인 버전 2 구성
  • 본문: 개념, 원칙, 단계별 절차
  • 부록1: 보안통제 항목, 구현 수단 및 예시
  • 부록2: 정보서비스 모델 해설서
  • 업무 단말 인터넷 이용: PC로 인터넷 사용 및 민감 업무 처리
  • 클라우드 기반 통합 문서체계: 협업 및 문서 생산·공유 가능

 

도입 효과 및 과제

• 효과: 보안 자율성·책임성 향상, 기술 다양성 인정
• 과제: 보안 담당자 업무 부담 및 책임 증가
• 추진 계획
  • 물리적 망분리 사업 설계 변경 요청
  • 예산 부담 적은 정보서비스 모델부터 정보화 사업으로 추진 독려