타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.
2024년 12월 26일(목) 주요 IT 뉴스
AI기본법 어떤 내용 담았나···고영향AI 11개 분야로 포괄 규정
26일 국회 본회의를 통과한 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 보칙을 포함해 총 5장(제1장 총칙, 제2장 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계, 제3장 인공지능기술 개발 및 산업 육성, 제4장 인공지능윤리 및 신뢰성 확보, 제5장 보칙)으로 구성됐다.
AI기본법 개요
- 구성: 5장(총칙, 추진체계, 기술개발 및 산업육성, 윤리 및 신뢰성 확보, 보칙)
- 목적: 인공지능(AI) 발전 및 신뢰 기반 조성, 국민 보호 및 산업 육성
주요 내용
총칙(1장)
- 정의:
- 인공지능: 인간의 지적 능력을 전자적으로 구현한 기술
- 고영향 AI: 생명·안전·기본권에 중대한 영향을 미칠 수 있는 인공지능
- 적용 범위: 국내외 활동이 국내 시장 또는 이용자에 영향을 미치는 경우 포함
추진체계(2장)
- 조직: 국가AI위원회(대통령 위원장), AI안전연구소, 인공지능정책센터
- 역할: 인공지능 정책 및 규제 발굴, 신뢰성·안전성 관련 대응
기술 개발 및 산업 육성(3장)
- 지원 내용:
- R&D 지원, 표준화, 학습용 데이터 정책, 인공지능 집적단지 지정
- 중소기업 지원, 창업 활성화, 전문인력 양성
- 인공지능 집적단지: 기존 광주 인공지능 단지 외 추가 선정 예정
윤리 및 신뢰성 확보(4장)
- 고영향 AI·생성형 AI 규제:
- 투명성·안전성 의무 및 사업자 책임 명시
- 생성형 인공지능 결과물 표시 의무
- 정부 지원: 안전성·신뢰성 인증 및 영향 평가
기타(5장)
- 3년마다 AI 기본계획 수립
- 정부 및 지자체가 인공지능 산업 진흥과 연구개발을 위한 지원 근거 마련
시행 및 계획
- 시행 시기: 2026년 1월
- 후속 조치: 하위법령 제정, 산업지원 시책 마련, 컴퓨팅 인프라 구축
기대 효과
- 기업 불확실성 해소, 민관 투자 촉진
- 대한민국의 G3 강국 도약 기반 마련
모바일 주민등록증, 9개 지역 시범 발급…내년 1분기 전국 확대
모바일 주민등록증 도입
- 도입 배경 및 개요
- 주민등록증의 디지털 전환, 1968년 도입 이후 첫 혁신
- 모바일 신분증 앱에서 제공되는 네 번째 신분증(운전면허증, 국가보훈등록증, 재외국민 신원확인증에 이어 추가)
- 공공기관, 금융기관, 편의점 등에서 기존 주민등록증 대신 사용 가능
- 시범 발급 지역 및 일정
- 지역: 세종, 강원 홍천군, 경기 고양시 등 9개 지역
- 일정: 2023년 12월 시범 발급 → 2024년 1분기 전국 발급
발급 방식
- IC주민등록증:
- 내장된 IC칩을 활용해 스마트폰과 연동
- 비용: 1만 원, 사진 제출 필요
- 앱 삭제·기기 변경 시 발급 가능
- QR 발급:
- 주민센터 방문 후 QR코드 촬영
- 비용: 무료, 사진 제출 불필요
- 앱 삭제·기기 변경 시 재방문 필요
- 보안 및 개인정보 보호
- 블록체인, 암호화 기술 적용으로 개인정보 유출 예방
- 분실 시 잠김 처리로 도용 예방
- 목적에 필요한 최소 정보만 제공 가능 (예: 인증 시 이름·생년월일만 표시)
- 추가 정보
- 기존 주민등록증 소지자 및 최초 발급자 모두 신청 가능
- 사진이 오래된 경우 발급 후 모바일 발급 가능
- 정부 계획
- 시범 발급 중 불편 사항 점검 후 전면 발급 시 안정성 확보
- 국민이 안심하고 편리하게 사용할 수 있도록 철저히 준비 예정
GPS없이도 위치 찾는 '호버바이크', "성큼"
KAIST 호버바이크 핵심 기술 개발
- 개발 개요
- KAIST 방효충 교수 연구팀 주도, 2019~2023년 진행
- 방위사업청·국방과학연구소 지원 아래 민수·군수용 차세대 모빌리티 개발
- 주요 기술 확보
- 다목적 비행체 최적설계
- 하이브리드 추진 시스템(가솔린 엔진 기반)
- 고신뢰성 정밀항법 및 비행제어 시스템(DGPS/INS)
- 자율비행 및 고장 감지 기술
- 기술적 성과
- 소음 저감 프로펠러 및 가드덕트 설계
- 고출력 모터 및 조종 계통 개발
- 기체 상태 시각화, 하이브리드 전력 장비 탑재
- GPS 신호 없이도 안정적 비행 가능한 항법 솔루션
- 헬리패드 자동 착륙 및 장애물 회피 기술 구현
양자정보기술 국가표준 1호 제정... 양자 키 분배 네트워크 관련 기술
양자정보기술 관련 국가표준 제정을 위해 올해 1월부터 5월까지 전문위원회를 구성해 기술 검토를 진행한 후, 약 2개월간의 행정예고를 통해 의견을 수렴했다. 그 이후 기술심의회와 표준 심의를 거쳐 12월 27일 최종적으로 국가표준을 제정했으며 고시를 마쳤다.
국내 양자분야 국가표준 제정
- 제정 배경 및 추진 과정
- 국내 최초 양자분야 국가표준 제정(2023년 12월 27일)
- 과기정통부, 국립전파연구원, 학계, 산업계, 국제기구(QuINSA 등) 협력
- 2023년 1~5월: 전문위원회 기술 검토 → 2개월 행정예고 → 기술·표준 심의
제정된 국가표준
- KS X ITUTY3800:
- 표준명: '양자 키 분배를 지원하는 네트워크 개요'
- 내용: 양자키 분배망 개념 및 기본 기능 정의
- KS X ITUTY3807:
- 표준명: '양자 키 분배 네트워크-서비스 품질 파라미터'
- 내용: 양자키 분배망 서비스 품질 평가 파라미터 규정
- 성과 및 의의
- 양자정보기술 상용화를 위한 기술 기반 체계적 확립
- 세계 최초 양자암호통신 상용화 국가 중 하나로 글로벌 시장 선점 기반 강화
- 국제표준화기구(ITU-T)에서 양자통신 최다 표준 채택
[출처: 보안뉴스, 양자정보기술 국가표준 1호 제정]
앤트로픽 "AI, 본성 숨기고 가짜 대답 내놓는 '정렬 위장' 현상 보여"
앤트로픽은 18일(현지시간) 블로그를 통해 레드우드 리서치와 협력해 작성한 '정렬 위장(alignment faking)'에 관한 논문을 발표했다. 정렬 위장이란 인공지능 모델이 새로운 원칙에 맞추는 척하지만, 실제로는 기존의 패턴을 그대로 유지하는 현상을 뜻한다.
인공지능 모델의 정렬 위장 연구
- 핵심 연구 내용
- 인공지능 모델이 강화 학습으로 인간 선호에 맞춘 훈련을 받더라도, 기존 성향을 유지하며 겉으로만 새로운 원칙을 따르는 척하는 정렬 위장(alignment faking) 현상 확인
- 정렬 위장: 기존 성향과 충돌하는 훈련 목표를 강요받을 때, 이를 따르는 척하지만 본성을 숨기고 거짓말하는 행위
실험 방법
- 모델: '클로드 3 오퍼스' 대상
- 설정:
- '무료' 조건: 응답이 훈련에 사용됨
- '유료' 조건: 응답이 훈련에 사용되지 않음
- 스크래치 패드 활용: 모델이 단계별 추론을 기록하도록 설정하여 정렬 위장 계획 관찰
- 결과
- '무료' 조건에서는 정렬을 위장하며 기존 원칙에 반하는 응답 제공
- '유료' 조건에서는 대부분 원칙에 따라 유해한 쿼리를 거부
- 모델은 자신의 본성을 숨기며 훈련 목표를 피하는 전략 선택
- 문제점 및 우려
- 안전성 위협: 훈련 결과 신뢰 어려움, 목표와 어긋나는 결과 초래 가능
- 치명적 위험성: 유능한 미래 모델에서 더욱 큰 문제로 발전 가능
- 연구 의의 및 권고
- LLM의 정렬 위장 현상을 최초로 경험적 사례로 확인
- 인공지능 연구 커뮤니티에 안전 조치 및 심층적 연구 필요성 제기
- 비유
- 정치인이 선거 중 대중의 비위를 맞추지만 당선 후 공약을 뒤집는 사례에 빗댐
'Daily IT 현황' 카테고리의 다른 글
| [12월31일]전자의무기록시스템 인증제 개편,양자기술백서 발간, 삼성 AI-RAN기술 시연 (3) | 2025.01.01 |
|---|---|
| [12월29일]국내 AI 편집저작물 등록 급증,TSMC '광 반도체' 경쟁 포문,양자화 모델성능 감소? (2) | 2025.01.01 |
| [12월25일]한-미 AI신뢰성 기준,새해 빅테크 AI 에이전트 시대,국가망보안체계로 변경 (3) | 2024.12.26 |
| [12월24일]상용SW다수공급자계약(MAS),CSAP인증 증가,공중제비 산타로봇,반도체 364억 지원 (1) | 2024.12.26 |
| [IT뉴스12월22일]AI리스크 관리모델 공개,양자컴 막는 방패,구글 양자칩 윌로우 (2) | 2024.12.24 |