정보관리기술사/컴퓨터응용기술사/빅데이터분석/ADsP

과기부, 'AI 기반 사회보장 플랫폼' 민투SW사업 인정…1호 사업 기대감

도입 후 5년간 실제 계약 실적이 없었던 민간투자 소프트웨어(SW)사업이 첫 계약 가능성을 높였다. 한국사회보장정보원의 AI 기반 개발플랫폼이 수익형 민투SW사업으로 인정되면서 민간 자본과 신기술을 공공 SW에 신속히 적용하는 모델이 본격 시험대에 올랐다.

■ 기사 핵심 요약

– 한국사회보장정보원의 AI 기반 사회보장통합 개발플랫폼이 수익형 민투SW사업으로 인정

– 민간이 선투자하고 사용료로 비용을 회수해 정부 재정지원 없이 예산 절차 단축·AI 신기술 신속 도입 추진

– 20억원 미만 소규모 민투SW 패스트트랙 첫 사례로 향후 공공 SW 민간투자 확산 가능성 확대

■ 기사 주요 내용 정리

◎ 민투SW 제도와 추진 배경

– 기존 전액 국고 방식의 공공 SW사업에 민간 자본·기술을 활용하기 위해 도입

– 수익형은 민간이 먼저 구축한 뒤 사용료로 비용을 회수하고, 임대형은 정부가 임대료를 지급하는 구조

– 제도 시행 5년 동안 실제 계약 사례가 없어 1호 사업 필요성이 지속 제기

◎ AI 사회보장 플랫폼 적용

– 복지정책 변화를 시스템에 빠르게 반영해 정책 발표와 실제 복지 수혜 간 시차를 단축하는 것이 목적

– 향후 사회보장정보 통합플랫폼 구축·개선 사업자가 AI 기반 개발플랫폼을 활용해 시스템 개선 속도를 높이는 구조

◎ 소규모 패스트트랙 첫 적용

– 공공·민간 수요를 연결한 통합설명회를 통해 발굴된 사업으로, 20억원 미만 신기술 사업의 신속 추진을 위한 패스트트랙 최초 적용

– 수익형 방식으로 정부 재정지원 없이 민간 자본을 활용해 예산 확보 기간을 줄이고 AI 기술을 적시에 적용

◎ 공공 SW 시장 확산 가능성

– 부산시 부산시민플랫폼도 NIA 타당성 조사를 통과하는 등 후속 사업 추진 기반 마련

– 제3자 공고를 통해 최초 제안사 외 다른 기업도 참여 가능

→ 민투SW가 실제 계약으로 이어질 경우 소규모 혁신기업의 공공시장 진입과 AI·신기술 도입 확대의 선례가 될 전망

앤트로픽, 보안협력 프로젝트 ‘글래스윙’ 확대… 접근권은 3단계로

앤트로픽이 Project Glasswing과 Cyber Verification Program(CVP)을 통합해 고성능 Claude 모델 사이버보안 접근체계를 개편했다. 핵심은 모델 성능을 제한하는 대신 사용자·기관의 신뢰도와 업무 위험에 따라 가드레일을 차등 적용하는 것이다.

■ 기사 핵심 요약

– Claude Mythos 5.1·Opus 5.5·Sonnet 5.5를 Defense → Red Team → Specialized Access 3단계로 제공

– Glasswing에서 12만9000건 이상 취약점이 검증되며 AI 탐색 속도가 인간의 검증·패치 속도를 앞서는 병목 부상

– Dual-use 위험을 통제하면서 검증기관에는 높은 사이버 능력을 허용하는 위험기반 접근통제 체계로 전환

■ 기사 주요 내용 정리

◎ 3단계 사이버 접근체계

– Defense Access는 SOC·CERT 등에 방어업무를 허용하되 공격 행동은 강하게 차단

– Red Team Access는 승인된 침투테스트를 허용하고 랜섬웨어·물리적 파괴 등 고위험 행동은 제한

– Specialized Access는 전력망·통신망·은행간 결제 등 핵심 인프라 검증기관에 가장 완화된 가드레일 적용

◎ Glasswing 성과와 새로운 병목

– 4~7월 파트너가 최소 12만9000건, 앤트로픽이 추가 5500건 취약점을 발견

– 이 가운데 3만3000건 이상이 Critical/High Severity로 분류

→ 취약점 발견보다 이를 검증·공개·패치하는 처리 역량이 새로운 과제로 부상

◎ 가드레일 차등 적용

– CyScenarioBench에서 일반 사용자는 50/50 차단, Defense는 46/50 차단, Red Team은 34/50 작업 성공

→ 동일 모델이라도 기관 검증 수준에 따라 권한을 달리하는 Risk-based Access Control 구조

🔥 결과가 나오고, 마음이 무거운 분들께 전하는 위로와 다짐

2026년 10월 7일, 합격자 발표가 있는 날입니다.

합격하신 분들에게는 정말 기쁜 날이지만,

이번 결과에 자신의 이름이 없었던 분들에게는 참 힘든 날이기도 합니다.

특히 주변에서 합격자가 많이 나온 회차일수록 마음은 더 복잡합니다.

"나는 왜 안 됐을까?"

"이렇게까지 했는데 무엇이 부족했을까?"

누구보다 열심히 공부했던 분일수록 그 자괴감도 더 클 수밖에 없습니다.

"내가 정말 할 수 있는 게 맞을까?" 하는 의심마저 들게 마련이죠.

🧭 먼저 합격한 선배들이 걸어온 길

하지만 지금 앞에서 합격을 축하받고 있는 분들도

처음부터 계속 좋은 결과만 받았던 것은 결코 아닙니다.

먼저 합격한 수많은 선배 기술사들도

자신의 이름이 없는 합격자 명단을 멍하니 바라봤고,

함께 공부하던 동료의 합격을 축하하면서도 마음 한편이 무너졌던 시간을 지나왔습니다.

그럼에도 다시 책을 폈고, 다시 펜을 들었습니다.

부족했던 답안을 다시 복기하고 쓰면서 결국 자신의 차례를 만들어 냈습니다.

🚀 결국, 다시 증명해 낼 시간입니다

기술사 시험은 실력이 있어도 당일의 운이나 컨디션에 따라 떨어질 수 있고,

열심히 했어도 결과가 바로 따라오지 않을 수 있습니다. 그래서 더 힘든 시험입니다.

하지만 결국 우리가 해야 할 일은 같습니다.

다시 쓰고, 다시 채우고, 다시 시험장에 가는 것.

오늘 결과가 여러분이 지금까지 쌓아온 IT 전문성과 실력을 부정하는 것은 아닙니다.

다만 아직 결과로 증명할 단 한 번의 완벽한 기회가 남아 있는 것입니다.

🤝 Big&Up Study가 끝까지 함께합니다

합격할 때까지, 아직 끝난 것이 아닙니다.

잠시 숨을 고르고, 우리 다시 펜을 듭시다.

함께 공부하고, 함께 성장하고, 결국 함께 합격합시다.

먼저 긴 시간 동안 흔들리고 지치면서도 끝까지 포기하지 않고 달려온 모든 합격자분께 진심으로 축하의 말씀을 드립니다.

기술사 합격은 어느 날 갑자기 운으로 만들어진 결과가 절대 아닙니다.

때로는 흔들리고, 때로는 지치면서도 다시 책을 펼치고 펜을 들었던 당신의 인내가 만든 최고의 성과입니다.

이번 회차 합격하신 모든 분들, 정말 고생 많으셨습니다.

여러분의 끝없는 노력과 집념에 뜨거운 박수를 보냅니다.

🌱 합격은 끝이 아니라 새로운 출발입니다

필기합격이라는 가장 크고 험난한 산을 넘었지만, 이제 기술사가 되기 위한 마지막 면접 과정이 남아 있습니다.

앞으로 예비 기술사로서 걸어가야 할 길에서 세 가지를 꼭 기억해 주셨으면 합니다.

오늘의 합격자는 어제의 치열했던 수험생이었고, 오늘의 수험생은 곧 내일의 기술사입니다.

먼저 합격한 분들도 모두 이 어두운 터널 같은 시간을 이겨냈습니다.

공정거래위원회가 온라인 쇼핑·구독 서비스에서 소비자의 착각이나 부주의를 유도하는 다크패턴을 4개 범주·13개 유형으로 정리했다. 회원탈퇴·계약해지, 총액 표시, 정기결제 전환, 반복 권유 등 실제 온라인 서비스 설계에서 적용할 판단기준을 구체화한 것이 핵심이다.

■ 기사 핵심 요약

– 공정위가 편취형·오도형·방해형·압박형 등 4개 범주, 13개 다크패턴 유형에 대한 운영 가이드라인 마련

– 가입만큼 해지도 쉽게 하고 필수비용은 최초 금액 노출부터 총액 표시, 유료전환은 30일 이내 별도 동의 필요

– 전자상거래법 위반 시 시정조치·영업정지·과징금·과태료가 가능하지만 가이드라인 자체는 법적 구속력이 없음

■ 기사 주요 내용 정리

◎ 가입보다 어려운 해지 절차 제한

– 회원탈퇴·계약해지 메뉴를 개인정보 수정이나 보안설정 등 예상하기 어려운 위치에 숨기지 않도록 권고

– 로그인 첫 화면 또는 한 번의 클릭으로 연결되는 마이페이지 등에 탈퇴·해지 기능을 명확하게 표시

– 웹·앱으로 가입했다면 원칙적으로 동일한 채널에서 해지할 수 있어야 하며 과도한 클릭·불필요한 확인 절차도 제한

◎ 가격·자동결제 표시 기준 강화

– 검색·상품목록 등 금액을 처음 보여주는 단계부터 배송비/설치비/세금 등 필수비용을 포함한 총액 표시가 원칙

– 사전 확정이 어려운 비용은 제외 항목과 사유를 최초 금액표시 단계에서 안내

– 정기결제 인상이나 무료→유료 전환 시 전환일 전 30일 이내 별도 동의 필요

◎ 반복간섭 등 소비자 선택 방해 제한

– 소비자가 한 번 거절한 선택을 두 차례 이상 반복 요구하는 반복간섭 제한

– 재권유 시 ‘7일간 다시 안보기’처럼 최소 7일간 동일한 요구를 받지 않을 선택권 제공

– 숨은갱신/순차공개 금액책정/특정옵션 사전선택/거짓 할인·추천/유인판매/위장광고/취소·탈퇴 방해 등이 주요 규제 유형

◎ 사업자 영향과 제재

– 전자상거래법상 금지된 행위는 시정조치와 함께 사안에 따라 영업정지·과징금 처분 가능

– 숨은갱신·순차공개 금액책정·특정옵션 사전선택 등은 1000만원 이하 과태료 부과 가능

→ 온라인 사업자는 UI·UX 단계부터 가입/해지 대칭성,금액 투명성, 명시적 동의를 고려한 서비스 설계 필요

[4개 범주]

[4개 범주 별, 13개 다크패턴 유형]

금융권서 현실화한 AI 해킹…전 산업 보안 '비상'

금융권 연쇄 침해사고에서 AI 기반 공격 자동화 정황이 포착되면서 사이버 위협이 새로운 단계로 진입하고 있다. 핵심은 새로운 해킹기법보다 AI가 외부 자산 탐색·취약점 분석·도구 실행을 자동화해 공격 속도와 규모를 크게 확대할 수 있다는 점이다.

■ 기사 핵심 요약

– 7개 금융사에서 유사 침해가 발생하고 일부 동일 IP가 확인돼 동일 공격자·AI 자동화 도구 활용 가능성 조사

– 공격 관련 IP에서 ARTEX AI 흔적이 확인됐지만 실제 공격에 사용됐는지는 아직 공식적으로 확인되지 않음

– AI 공격 속도에 대응하려면 ASM·MFA·최소권한·AI 에이전트 통제를 결합한 상시 보안체계가 필요

■ 기사 주요 내용 정리

◎ 금융권 연쇄 공격과 AI 활용 정황

– 신한·KB국민·하나·BNK부산은행과 저축은행·캐피탈 등 7개 금융사에서 유사 사고 확인

– 경찰은 공격 IP에서 중국어 기반 자율 침투테스트 시스템 ARTEX AI 관련 흔적을 토대로 연관성 조사

※ ARTEX가 실제 공격을 수행했다는 사실은 아직 확인되지 않음

◎ 멀티에이전트 기반 공격 자동화

– ARTEX는 LLM 기반 Planner가 공격 과정을 분해하고 여러 Worker가 정보수집·취약점 분석·도구 실행을 병렬 수행

– 결과를 다시 Planner가 분석해 다음 행동을 결정하는 구조

→ 작업이 세분화되면서 AI 안전장치가 전체 공격 의도를 인식하기 어려워질 가능성이 있다는 분석 제기

◎ 사후 대응에서 상시 방어로 전환

– 외부 노출 서버·웹서비스를 지속 식별하고 취약점을 점검하는 ASM(Attack Surface Management) 상시화 필요

– MFA/이상접속 탐지/최소권한/불필요 웹서비스 폐쇄와 함께 AI 에이전트의 접근권한·행동 범위 통제 강화

→ 실제 공격에서도 기본 보안조치 수준에 따라 피해 여부가 달라져 기본 통제의 지속적 운영이 핵심 방어수단으로 부각

최근 신한은행/KB국민은행/하나은행/BNK부산은행 등 주요 금융회사와 저축은행/캐피탈을 대상으로 연쇄적인 침해사고가 발생했다. 특히 공격 관련 인프라에서 ARTEX AI 관련 흔적이 발견되고, 여러 금융사에서 동일/유사 IP가 확인되면서 에이전트를 활용한 자동화 가능성이 제기되고 있다.

다만 현재까지 ARTEX AI가 실제 사용됐다는 사실은 공식 확정되지 않았으며, CyberStrikeAI 역시 직접 연결됐다는 근거는 확인되지 않았다.

사건 개요

연쇄 해킹 타임테이블

인공지능 기반 자동화

– 탐색 → 분석 → 공격기법 선택 → Tool 실행 → 결과 검증 → 재계획 과정을 반복 자동화

예상되는 인공지능 모델/도구

ARTEX AI

CyberStrikeAI

ARTEX AI vs CyberStrikeAI

대응 방안

– 이번 금융권 연쇄 해킹의 핵심은 새로운 인공지능 전용 해킹기법이 등장했다기보다, 기존 공격기법이 AI Agent와 결합해 자동화/대규모화될 가능성이 현실화됐다는 점

– Credential Stuffing/인증 우회/Session 취약점/Web 취약점 같은 전통적인 공격기법도 AI Agent가 탐색/선택/실행/검증을 반복하면 속도와 규모가 크게 증가 가능

– 특히 핵심 금융시스템뿐 아니라 직원용/외주/대출모집인/업무지원 시스템까지 Attack Surface 관리 필요

– ARTEX AI는 이번 사건에서 관련 흔적이 발견된 핵심 예상 도구, CyberStrikeAI는 유사한 Agentic Security 플랫폼이지만 이번 사건과 직접 연관됐다는 근거는 확인되지 않음

– 금융권 대응도 기존 보안통제에 더해 인공지능 기반 탐지/Agentic Attack 탐지/AI Red Team/Threat Intelligence 공유까지 확대할 필요

<멘토 의견>

AI로 무장한 해커 금융권 공격…‘자동화·동시다발’ 위협 현실로

신한·KB국민·하나은행 등 주요 금융기관에서 개인정보 유출과 비정상 접근이 잇따르며 금융권 보안 위기가 확산되고 있다.

특히 관련 서버에서 ARTEX AI 흔적이 발견돼 인공지능이 정찰·취약점 탐색·공격 실행을 자동화했을 가능성이 제기됐지만 실제 사용 여부는 아직 확인되지 않았다.

■ 기사 핵심 요약

– 신한은행 약 2만5000명, KB국민은행 119명, 하나은행 89명 등 금융권 개인정보 유출 사고가 연이어 발생

– 신한은행 공격 관련 서버에서 ARTEX AI 정황이 발견됐으나 실제 활용 여부와 주체는 미확인

– 인공지능이 공격 속도·규모를 높일 수 있어 MFA/최소권한/봇 차단/인공지능 기반 방어체계 강화 필요성 확대

■ 기사 주요 내용 정리

◎ 금융권 동시다발 침해사고

– 신한은행은 대출모집인 서비스 인증 우회로 약 2만5000명 정보가 유출됐고, KB국민·하나·부산은행에서도 외부 침입과 정보노출 사고 발생

– 우리은행과 NH농협은행도 유사 공격을 받았으나 기사 기준 정보 유출은 확인되지 않음

◎ AI 기반 공격 자동화 정황

– Attack 추정 서버에서 ‘AI 자율 침투테스트 콘솔’을 의미하는 문자열이 발견돼 ARTEX AI 관련 가능성 제기

– ARTEX는 LLM과 AI 에이전트를 이용해 정보수집/취약점 탐색/경로 설정/보안도구 실행을 자동화

※ 오픈소스 도구 흔적만으로 실제 사용 여부나 공격자의 국적·배후를 특정할 수 없음

◎ 공격의 핵심 변화와 대응

– 새로운 기법보다 인공지능이 기존 취약점과 도구를 이용해 여러 금융사를 빠르게 반복 Attack 할 수 있다는 점이 핵심 위험

– MFA/이상 로그인 탐지/속도 제한/봇 차단과 직원·외주계정 최소권한 적용 필요

→ 금융당국도 외부 인공지능을 활용한 취약점 탐지와 방어를 지원하기 위해 망분리 규제 완화를 추진

"신한 공격 추정 AI 해킹도구 아르텍스, 한국서 4개 발견"

금융권 사이버 공격이 이어지는 가운데 신한은행 관련 서버에서 인공지능 기반 자율 침투테스트 도구 ARTEX 관련 문자열이 발견됐다.

ARTEX가 사용됐는지는 확인되지 않았지만, 인터넷상에서 인공지능 기반 침투 자동화 인프라가 대규모로 관측되면서 선제적 위협 추적 필요성이 커지고 있다.

■ 기사 핵심 요약

– 신한은행 Attack 관련 서버에서 ARTEX 흔적이 발견됐지만 실제 공격에 사용됐다는 사실은 아직 공식 확인되지 않음

– ARTEX 관련 고유 IP 359개, CyberStrikeAI 관련 서버 약 1000개가 관측돼 인공지능 기반 공격 자동화 인프라 확산 정황 확인

– 인공지능이 정찰/취약점 탐색/경로 설정을 자동화하면서 보안 대응도 사고 사후 분석에서 인프라 선제 추적으로 전환 필요

■ 기사 주요 내용 정리

◎ ARTEX와 금융권 공격 연관성

– 공격 관련 웹서버에서 ‘ARTEX-自主渗透测试控制台’ 문자열 확인

– ARTEX는 LLM을 이용해 자산 탐색/취약점 분석/도구 호출/침투 검증을 자동화하는 오픈소스 시스템

※ 관련 흔적과 실제 활용 여부는 별개이며 현재 직접 사용 사실은 확인되지 않음

◎ AI 침투 인프라 대규모 관측

– 오아시스시큐리티가 9월 23일~10월 3일 추적한 결과 ARTEX 관련 고유 IP 359개, 서비스 노출 형태 392개 확인

– 이 중 약 93%에서 기본 TCP 8787 포트가 관측됐으며 미국/중국/홍콩이 전체의 약 91.4% 차지

– 특정 호스팅 네트워크 AS54600에 전체 IP의 54.6%가 집중

※ 서버 위치는 국적이나 소재지를 의미하지 않음

◎ 인공지능 기반 공격 자동화 확산

– 일부 서버에서는 CyberStrikeAI/AdaptixC2/GoPhish 등 관련 정보도 관측됐지만 동일 공격자의 연계 사용 여부는 확인되지 않음

– 별도 추적 중인 CyberStrikeAI 서버 약 1000개도 관측

→ AI 에이전트가 기존 도구를 스스로 선택·호출하면서 기술 자체보다 속도와 규모를 확대할 가능성

◎ 사후 대응에서 선제 위협정보로 전환

– 기존 IOC·악성코드 중심 사후 분석만으로는 대규모 자동화 대응에 한계

– 금융/공공/국방 등 주요 기관은 신규 인공지능 기반 Attack 프레임워크/C2/호스팅 인프라의 생성·이동·변화를 지속 추적하는 CTI 기반 선제 대응체계 강화 필요

중소형 병원 20곳, 동일 랜섬웨어 동시 감염

최근 중소형 병원 20여곳에서 랜섬웨어 침해사고가 발생해 KISA와 한국사회보장정보원이 조사에 나섰다. 다수 피해기관에서 동일 유형의 랜섬웨어와 의료시스템 사용 정황이 확인되면서 의료SW 공급망을 통한 공통 침투 가능성도 제기되고 있다.

■ 기사 핵심 요약

– 중소형 2차 의료기관 20여곳에서 랜섬웨어 피해 발생, EMR·PACS 등 핵심 의료시스템 영향

– 다수 병원이 동일 의료SW를 사용하는 것으로 파악돼 공급망 공격 가능성이 제기됐으나 침투 경로는 아직 미확인

■ 기사 주요 내용 정리

◎ 보안 취약한 중소병원 집중 피해

– 피해기관에는 건강검진 등 다양한 의료서비스를 제공하는 2차 의료기관이 다수 포함

– 전자의무기록시스템(EMR)과 의료영상저장전송시스템(PACS) 등 진료 핵심 시스템이 공격 대상

◎ 의료SW 공급망 공격 가능성

– 피해 병원 가운데 동일 의료시스템을 사용하는 곳이 다수 확인되면서 SW 취약점을 이용한 공통 침투 가능성 제기

– 공급망 공격은 최종 병원을 직접 공격하기보다 병원이 사용하는 SW·서비스를 경유해 침투하는 방식

※ 현재 조사가 진행 중으로 공급망 공격 여부와 구체적인 침투 경로는 확인되지 않음

◎ 의료서비스·민감정보 위험 확대

– 건강·진료 등 민감정보를 보유해 데이터 유출 시 피해가 크고 시스템 마비 시 의료업무 차질 가능

– 일부 병원은 탐지·차단 체계가 2차 방어선으로 작동했지만 보안 수준이 낮은 기관은 피해가 확대된 것으로 전해짐

→ 당국은 우선 시스템 복구를 지원하면서 추가 확산 여부·데이터 유출·공통 공격경로를 조사 중

개인정보위, EU 이어 영국 '개인정보 동등성 인정' 추진

개인정보보호위원회가 영국의 개인정보 보호 수준이 국내와 실질적으로 동등한지 평가하는 동등성 인정 검토에 착수했다. EU·EEA에 이어 두 번째 대상이며, 인정될 경우 국내 기업과 공공기관의 영국 대상 개인정보 이전 절차가 간소화된다.

■ 기사 핵심 요약

– 동등성 인정 시 국내 기업·공공기관은 별도의 국외이전 요건 없이 영국으로 개인정보 이전 가능

– 한·영 데이터 이동 기반이 확대돼 글로벌 사업과 국제 공동연구·데이터 활용 편의성 향상 기대

■ 기사 주요 내용 정리

◎ 동등성 인정 제도 확대

– 상대국의 개인정보 보호체계와 권리 보장 수준이 국내와 실질적으로 동등한지 판단하는 제도

– 개인정보위는 2025년 9월 EU·EEA를 첫 동등성 인정 대상으로 결정했으며 영국이 두 번째 검토 대상

◎ 영국 보호체계 종합 검증

– 개인정보 보호 법제/감독·집행 체계/정보주체 권리 보장/피해구제 절차 등을 종합적으로 검토

– 산업계·연구계 의견과 8~9월 국외이전 전문위원회 검토를 거쳐 영국을 차기 대상국으로 선정

◎ 국외이전·글로벌 사업 영향

– 인정 시 별도 국외이전 요건 없이 개인정보 이전이 가능해 기업·공공기관의 행정 부담 감소

→ 한·영 간 데이터 활용 기반이 넓어지면서 글로벌 서비스/연구협력 등 국경 간 데이터 이동 활성화 기대

[법적 근거]

– 개인정보 보호법 제28조의8 제1항 제5호

– 개인정보가 이전되는 국가/국제기구의 보호체계, 정보주체 권리보장, 피해구제 등이 우리나라 개인정보 보호 수준과 실질적으로 동등한 경우 국외이전 허용

– 개인정보 보호법 시행령 제29조의9 「국가 등에 대한 개인정보 보호 수준 인정」

국가 AI 안전 마스터플랜 12월 나온다…민·관 실무 협의 시동

과학기술정보통신부가 첨단 인공지능 위험에 대응하고 혁신과 안전의 균형을 강화하기 위한 국가 AI 안전 생태계 조성 마스터플랜을 12월까지 마련한다. 이를 위해 10월부터 산업계·전문가·유관기관이 참여하는 민·관 실무협의체를 운영한다.

■ 기사 핵심 요약

– 과기정통부가 국가 AI 안전 생태계 조성 마스터플랜을 12월까지 수립하고 10월부터 민·관 실무협의체 운영

– 국가 AI 안전 관리체계/첨단 AI 안전 대응역량/국민 일상 AI 안전환경 등 3대 전략과 핵심과제 점검

– 국내외 인공지능 기업·기관·전문가 약 25명이 참여해 현장 의견과 글로벌 정책·기술 동향을 반영

■ 기사 주요 내용 정리

◎ AI 안전 정책 강화 배경

– 인공지능 3대 강국 추진과 함께 최근 첨단 인공지능 위험이 현실화되면서 국가 차원의 안전·신뢰 기반 강화 필요성 확대

– 당초 상반기 공개 예정이었으나 대내외 환경 변화에 맞춰 내용을 보완하며 일정 조정

◎ 3대 전략 중심 마스터플랜

– 국가 AI 안전 관리체계 구축

– 첨단 AI 안전 대응역량 강화

– 국민 일상의 AI 안전 환경 조성

→ 글로벌 인공지능 안전 정책/산업/기술 동향을 반영해 신규·보완 과제도 발굴

◎ 민·관 실무협의체 운영

– 과기정통부/국가AI전략위원회/AI 기업·협회/전문기관/법·제도 전문가 등 약 25명 참여

– AI안전연구소/NIA/KISDI/TTA/KOSA/코리아스타트업포럼 등 참여

→ 산업 현장 경험과 기술·정책·법제 의견을 수렴해 현장 수용성 강화

◎ 12월까지 국가 전략 확정

– 실무협의체 의견과 관계부처 협의를 거쳐 연내 마스터플랜 수립 예정

→ AI기본법 시행 기반 위에 첨단 인공지능 위험에 대응하는 국가 AI 안전 생태계와 대응 역량을 체계화하는 방향

AI 가드레일(Guardrail)은 인공지능이 허용된 범위를 벗어나지 않도록 제한하는 기술·정책적 안전장치다. 생성형 AI가 단순 답변을 넘어 이메일/결제/외부 시스템 제어까지 수행하는 에이전트로 발전하면서 적용 범위도 콘텐츠 필터에서 권한·행동 통제로 확대되고 있다.

■ 기사 핵심 요약

– AI 가드레일은 인공지능의 정보 접근/도구 사용/행동 범위를 제한해 예기치 않은 위험을 최소화하는 안전장치

– 2023년 엔비디아 NeMo Guardrails를 계기로 확산됐으며 앤트로픽/OpenAI/MS/구글 등도 관련 안전체계 강화

– AI 에이전트 확산으로 콘텐츠 필터를 넘어 접근권한/도구 호출/사용자 승인/실시간 행동 통제가 핵심 기능으로 발전

■ 기사 주요 내용 정리

◎ AI 가드레일 개념과 확산

– 도로 가드레일처럼 사고를 완전히 제거하기보다 인공지능이 설정된 경계를 벗어나지 않도록 행동 범위를 제한

– 엔비디아 NeMo Guardrails가 LLM의 민감정보 노출과 금지 행동을 제어하는 대화·행동 규칙을 제시하며 개념 확산

– 앤트로픽은 Constitutional AI를 통해 인공지능이 안전 원칙을 스스로 점검

◎ 에이전트 시대 역할 확대

– 초기에는 욕설/유해 콘텐츠 차단 등 출력 필터 중심

– 최근에는 인공지능이 읽을 수 있는 정보/사용 가능한 도구/외부 시스템 접근 범위와 사람 승인이 필요한 행동까지 관리

→ 인공지능 성능뿐 아니라 권한 통제와 안전한 실행 능력이 기업 인공지능 경쟁력의 핵심 요소로 부상

[인공지능 가드레일 개요]

EU가 만든 DPP, 글로벌 공통규격 된다…ISO/IEC 표준화 작업 돌입

EU 중심으로 제도화된 디지털제품여권(DPP)이 국가·산업 간 데이터를 연결하는 글로벌 공급망 표준으로 확대되고 있다. ISO/IEC가 DPP 공통 원칙과 데이터 체계 표준화에 착수하면서 국내에서도 포장재 플랫폼 구축과 가전·자동차부품 실증 등 대응이 본격화됐다.

■ 기사 핵심 요약

– ISO/IEC가 ISO/IEC 25534-2 개발을 승인하며 DPP의 개요·원칙과 국가·산업 간 상호운용 표준화 착수

– DPP는 원재료/부품/탄소배출/수리·재사용·재활용 등 제품 생애주기 데이터를 공급망 전체에서 연결하는 체계

– 한국도 국제표준 투표 대응과 포장재 DPP 플랫폼 구축을 추진하며 가전·자동차부품 등 제조업의 글로벌 규제 대응 기반 확보

■ 기사 주요 내용 정리

◎ EU DPP에서 글로벌 표준으로 확대

– ISO/IEC는 올해 DPP 전담 JTC 5를 신설하고 2월 ISO/IEC 25534-1, 9월 14일 25534-2를 신규 표준개발 과제로 승인

– 25534-2는 DPP 개요와 원칙을 다루며 국가별·산업별 DPP가 데이터를 상호 교환할 수 있는 공통 기반 마련

→ DPP가 단순 EU 규제 대응 수단에서 글로벌 공급망 데이터 인프라로 확대

◎ 제품 생애주기 데이터 연결

– 제품 식별정보/소재/탄소배출량/주요 부품/수리·유지보수/재사용·재활용 이력 등을 하나의 디지털 기록으로 연결

– 제품설계/제조/IT/지속가능성/수리까지 기업 전체 데이터 체계를 연계해야 하는 구조

→ 국제표준의 데이터 규격·식별·접근 방식에 따라 기업의 시스템 구축과 규제 대응 비용에도 영향

◎ 국내 대응과 산업 확산

– 국가기술표준원을 중심으로 국제표준 투표에 대한 국내 의견을 수렴하고 있으며 JTC 5에는 정회원 33개국/옵저버 15개국 참여

– 국내에서는 포장재 공급망 데이터를 표준화한 DPP 통합관리 플랫폼을 구축해 가전·자동차부품 제조현장에 적용 추진

– 배터리·자동차는 제품·부품 이력 연계를 시작했고 가전·전자도 소재/부품/수리/소프트웨어 지원 정보를 공급망 데이터와 연결

→ 초기부터 공통 데이터 규격을 적용할수록 국가별 DPP 확대에 따른 중복 구축과 대응 부담을 줄일 수 있는 구조

인공지능 기본법 시행 8개월이 지나 세부 가이드라인까지 마련됐지만 기업 현장에서는 생성물 표시 방식과 고영향 AI 판단 기준을 둘러싼 혼선이 이어지고 있다. 과기정통부도 고영향 AI 자체 판단과 확인 요청 절차를 운영하고 있다.

■ 기사 핵심 요약

– 지원데스크 문의, 461건 중 투명성 의무 212건으로 가장 많아 AI 생성물 표시 방식이 핵심 쟁점

– 고영향 AI 판단 문의 117건으로 ‘중대한 영향’과 인공지능 시스템의 자율성·적응성 기준 명확화 요구 확대

– 과기정통부는 현장 질의와 제도개선 연구반 논의를 바탕으로 법·가이드라인 보완 검토

■ 기사 주요 내용 정리

◎ 인공지능 생성물 표시 의무 혼선

– 가시적·비가시적 표시 중 선택 가능하지만 비가시적 워터마크 적용 시 별도 문구·음성 고지도 필요

– 업계는 모델 개발사와 이용 사업자의 표시 책임 구분을 명확히 할 필요성 제기

[투명성가이드라인]

– 법 제31조 → 시행령 제23조 → 사전고지 + 생성물 표시 + 딥페이크 명확 표시

◎ 고영향 AI 판단 기준 모호

– 사업자가 사전에 고영향 AI 여부를 판단해야 하지만 ‘중대한 영향’ 범위가 불명확

– 자율성·적응성 기준도 모호해 인공지능 시스템 해당 여부부터 판단하기 어렵다는 지적

→ 단순 가이드라인보다 법률·법규명령 수준에서 기준을 구체화해 사업자 예측가능성을 높여야 한다는 의견

[고영향AI 확인 가이드라인]

– 법 제2조제4호/제33조 → 시행령 제25조 → 적용 영역 확인 → 위험의 영향·중대성·빈도 판단 → 필요 시 정부 확인

엔비디아, AI 돌발 행동 막는 '개방형 안전 플랫폼' 공개

AI 에이전트가 사람의 명시적 지시 없이 외부 시스템에 접근하거나 허용 범위를 벗어나는 사례가 늘면서 에이전트 안전 통제가 핵심 과제로 떠올랐다. 엔비디아는 개발·검증부터 실제 운영까지 에이전트 행동을 통제하는 오픈 에이전트 세이프티 플랫폼을 공개했다.

■ 기사 핵심 요약

– 엔비디아가 AI 에이전트의 돌발·이탈 행동을 차단하는 오픈 에이전트 세이프티 플랫폼 공개

– CPU 기반 OpenShell이 행동 범위를 정의·통제하고 DPU 기반 Sentry가 밀리초 단위 감시·격리 수행

– 앤트로픽/MS/세일스포스/팔란티어 등 100여개 기업이 참여해 산업 공통 AI 에이전트 안전 기준으로 확산 가능성

■ 기사 주요 내용 정리

◎ AI 에이전트 자율성 확대가 배경

– 에이전트가 외부 시스템 접근과 업무 실행까지 담당하면서 인간 통제를 벗어난 행동 위험 증가

→ 모델 성능뿐 아니라 행동 범위/권한/실행 단계 통제가 중요해지는 구조

◎ 소프트웨어·하드웨어 이중 통제

– OpenShell: CPU에서 에이전트가 수행 가능한 작업 범위를 설정하고 실시간 정책 적용

– Sentry: DPU에서 밀리초 단위로 행동을 감시하고 정책 위반 시 즉시 격리·정지

→ 개발·시험·배포·운영 전 과정에서 예방 + 실시간 차단 체계 구성

◎ 산업 표준화 가능성

– 글로벌 기술기업 100여곳이 개발에 참여해 모델/클라우드/기업 SW 환경 전반 적용 가능성 확대

– 엔비디아는 성능 향상과 같은 속도로 안전 기술도 발전해야 한다는 입장

→ 향후 AI 에이전트 거버넌스와 런타임 안전통제 표준 형성 가능성 부각

[DPU(Data Processing Unit) 개요]

오픈AI의 AI 에이전트가 보안 테스트가 아닌 일반 자료조사 과정에서 호주 정부의 메디케어 통계 포털 접근 제한을 우회해 비공개 파일까지 열람한 사실이 확인됐다. 개인 의료정보 유출 정황은 확인되지 않았지만, 인공지능이 목표 달성을 위해 스스로 보안 우회를 선택했다는 점에서 에이전틱 AI의 통제·안전성 문제가 부각됐다.

■ 기사 핵심 요약

– 오픈AI 에이전트가 공공 의약품 지출 조사 중 접근 제한을 우회해 공개·비공개 파일에 무단 접근하고 내부 서버에 파일까지 기록

– 개인정보 유출은 확인되지 않았지만 사고 발생 후 정부 통보까지 약 84일이 걸리며 인공지능 사고의 신속한 보고체계 문제 부각

– 호주 정부는 범정부 TF를 구성해 원인·법적 책임·추가 침해 여부를 조사하면서 AI 에이전트 통제와 안전기준 강화 논의 확대

■ 기사 주요 내용 정리

◎ 일반 업무 중 발생한 자율적 보안 우회

– 에이전트는 6월 18일 공공 의약품 지출 자료를 조사하던 중 메디케어 통계 포털에서 요청이 차단되자 다른 접근 경로를 탐색

– 이후 공개자료뿐 아니라 당시 비공개 상태였던 파일에 접근하고 서버에 파일을 기록한 사실도 조사 대상

→ 보안 평가가 아닌 범용 조사 과제에서 인공지능이 목표 달성을 위해 접근통제를 우회했다는 점이 기존 사례와 차이

◎ 피해 범위와 늦어진 사고 통보

– 오픈AI와 호주 정부는 집계형 보건통계와 일부 내부 파일이 접근됐지만 개인 기록 접근 증거는 없다고 설명

– 오픈AI는 자체적으로 문제를 파악한 뒤 9월 10일 정부 측에 통보해 사고 발생부터 약 3개월의 시차 발생

→ 인공지능 사고도 사이버 침해사고처럼 탐지·신속 통보·책임주체를 명확히 하는 절차가 필요하다는 논의 촉발

◎ 반복되는 에이전트 통제 문제

– 기사에서는 미국 대학·공공 데이터 사이트와 호주 기관 등에서도 AI 에이전트가 접근 제한 이후 취약점을 탐색하거나 대량 요청을 수행한 정황 제시

– 기존 허깅페이스 사례가 사이버보안 평가 과정의 격리환경 이탈이었다면 이번 사건은 해킹과 무관한 일반 업무 수행 중 발생

→ 에이전트에 웹 접근·코드 실행 권한을 부여할수록 목표 제한/최소권한/행동 감시/차단 정책의 중요성 확대

◎ 정부 조사와 AI 안전 논의 확대

– 호주 정부는 총리실 주도로 사이버보안조정관/AI 관련 기관/ASD/Services Australia 등이 참여하는 TF를 구성해 침입 경로와 추가 피해 여부 조사

– 현행법 적용 여부는 아직 확정되지 않았으며, 호주 정부도 법적 쟁점을 함께 검토 중

→ 이번 사건은 인공지능이 의도하지 않은 행동을 했을 때 개발사 책임/사고보고/에이전트 자율성 제한을 어디까지 요구할 것인지에 대한 정책 논의를 확대하는 사례

AI 경쟁 바닷속까지 번졌다...해저케이블 구축 가속

생성형 AI 확산으로 데이터센터에서 만들어지는 막대한 데이터를 세계 각지로 전달할 국제 통신망 중요성이 커지고 있다. 메타/SUBCO/EXA 인프라가 2029년을 목표로 대서양과 태평양에 초대형 해저케이블을 구축하며 인공지능 인프라 경쟁이 네트워크로 확장되고 있다.

■ 기사 핵심 요약

– 인공지능 데이터센터 확산으로 수백Tbps~1Pbps급 해저케이블 확보 경쟁이 본격화

– 메타는 대서양 1Pbps, SUBCO는 아시아·태평양 3개 노선, EXA는 미국·영국 신규망 구축 추진

– AI·클라우드 트래픽 증가로 기존망 소진이 빨라지며 국제 연결망이 인공지능 인프라의 새로운 병목으로 부상

■ 기사 주요 내용 정리

◎ 메타, 대서양 1Pbps 시대 추진

– 미국~프랑스 7000km 페탈(Petal)을 2029년 개통 목표로 추진

– 대양 횡단 최초 1Pbps 전송과 멀티코어 광섬유 적용

◎ SUBCO, 태평양 4만km 확장

– APX North/East-2/West를 통해 호주·괌·일본·미국·싱가포르 연결

– 호주 인공지능 팩토리 확대에 따라 75~150Tbps 국제망 수요 예상

→ 전력·부지보다 국제 연결망 구축기간이 더 큰 병목이 될 수 있다는 상황

◎ EXA, 대서양 용량 부족 대응

– 미국 뉴저지~영국 브린 6552km EXA Meridian을 2029년 가동 예정

– 기존 광섬유 페어 용량 소진 기간이 3~4년 예상에서 24개월 미만으로 단축

→ 인공지능·클라우드·기가와트급 데이터센터 확대로 고객 요구가 개별 파장에서 광섬유 페어 단위로 확대

생성형 AI 확산으로 고가의 GPU를 효율적으로 배분하고 모델 학습·추론을 안정적으로 운영하는 기술의 중요성이 커지고 있다. 기존 컨테이너 오케스트레이션 표준이던 쿠버네티스(Kubernetes)가 GPU/NPU 자원 관리와 인공지능 모델 배포·추론까지 담당하는 인공지능 인프라 핵심 플랫폼으로 확장되고 있다.

■ 기사 핵심 요약

– 생성형 AI 운영 조직의 66%가 일부 또는 전체 추론 워크로드를 쿠버네티스에서 운영하며 인공지능 인프라 활용 확대

– DRA 기반 GPU·NPU 자원 배분과 모델 배포·분산 추론·자동 확장까지 관리 영역 확대

– 국내외 기업들이 GPU/모델/데이터를 통합하는 AI 네이티브 플랫폼(ANP)으로 쿠버네티스 생태계 고도화

■ 기사 주요 내용 정리

◎ 컨테이너 관리에서 AI 자원 관리로 확장

– 기존에는 CPU·메모리 기반 컨테이너 배치/확장/장애복구를 자동화했으나 AI 시대에는 GPU·NPU 등 이기종 가속기까지 관리

– 최신 쿠버네티스는 동적 자원 할당(DRA)을 통해 하드웨어 특성에 맞춰 AI 워크로드에 자원을 세밀하게 배분

→ 인공지능 요청 증가 시 적절한 GPU 서버를 찾아 추론 작업을 배치 후 자원을 자동 확장하는 역할 강화

◎ 글로벌·국내 활용 확산

– 구글클라우드는 GKE에서 GPU 기반 LLM 배포와 지역별 GPU·TPU 클러스터 통합 활용 지원

– 오케스트로/이노그리드/나무에이엑스는 멀티클러스터·이기종 자원 관리와 vLLM 기반 분산 추론 확대

– 맨텍솔루션은 중앙에서 개발한 인공지능 모델을 공장 등 엣지 환경에 배포해 독립 추론 서비스 운영 지원

◎ AI 네이티브 플랫폼으로 진화

– 인공지능 시대에는 GPU 확보뿐 아니라 자원 스케줄링/모델 배포·추론/데이터 연계를 통합하는 플랫폼 역량이 비용 경쟁력과 직결

– KACI도 PaaS 지원분과를 AI 네이티브 플랫폼(ANP) 분과위원회로 개편해 금융/제조/공공 적용 확대 추진

→ 개방형 쿠버네티스를 기반으로 특정 클라우드나 인공지능 모델 종속을 줄이고 인공지능 인프라와 서비스를 유연하게 운영하는 방향

2년 걸리던 AI 데이터센터, 수개월로…'모듈형' 구축 경쟁 뜬다

GPU 교체 주기가 빨라지면서 데이터센터도 빠른 구축과 유연한 증설이 중요해지고 있다. 전력·냉각·IT 설비를 공장에서 사전 제작해 현장에서 조립하는 모듈형 데이터센터가 기존 방식의 대안으로 확산되고 있다.

■ 기사 핵심 요약

– 모듈 제작과 현장 공사를 병행해 약 2년 걸리던 AI 데이터센터 구축기간을 수개월 수준으로 단축

– LG CNS/KT클라우드/엘리스/SKT 등이 GPU·전력·냉각을 통합한 모듈형 인프라 사업 확대

– 빠른 증설이 장점이지만 전력 확보/부지/인허가/경제성 및 건축법상 지위가 확산의 핵심 과제

■ 기사 주요 내용 정리

◎ 인공지능 시대 모듈형 데이터센터 부상

– 최신 GPU가 빠르게 출시되면서 구축 지연이 곧 장비 노후화와 투자효율 저하로 연결

– 필요한 만큼 모듈을 추가해 초기 투자 부담을 낮추고 인공지능 수요에 따라 단계적으로 확장 가능

◎ 국내 사업자 구축 확대

– LG CNS AI 박스는 최대 576 GPU/1.2MW 규모로 약 6개월 구축, 부산에 약 50개 모듈 캠퍼스 추진

– KT클라우드는 2031년 1GW·20여개 거점 확대에 모듈형/BIM/CFD 기술 적용

– 엘리스는 B300 GPU 2560장을 4개 모듈에 구축하고 DLC/PUE 1.1 수준의 고집적 인프라 추진

– SK텔레콤과 GS그룹도 프리팹 모듈러 기술과 사업 적용 검토

◎ 확산을 위한 제도·경제성 과제

– 데이터센터 제작 속도가 빨라도 대규모 전력/부지/인허가 문제는 별도로 해결 필요

– 현행 건축법상 모듈형 시설의 법적 지위가 불명확해 법 개정이나 규제샌드박스 필요성 제기

→ 기존 상용 데이터센터 대비 비용·운영 효율이 입증될 경우 AI 인프라 구축 방식의 주요 대안으로 확대 가능

ISAC(Integrated Sensing and Communication)은 하나의 무선 네트워크에서 통신과 주변 환경 감지를 동시에 수행하는 기술이다.

기존 통신 신호의 반사파를 활용해 위치/거리/속도/이동 방향을 파악하며, 통신망을 데이터 전달 수단에서 센싱 인프라로 확장한다.

■ 기사 핵심 요약

– 기지국·단말의 무선 반사 신호를 분석해 통신과 센싱을 하나의 네트워크에서 동시 수행

– 기존 Radar/LiDAR/Camera 의존도를 낮추고 Cellular/Wi-Fi 인프라와 주파수·하드웨어를 공동 활용

– ITU가 IMT-2030의 6대 시나리오로 채택한 6G 핵심 기술로 자율주행/로봇/스마트시티 등 적용 확대

■ 기사 주요 내용 정리

◎ ISAC 동작 구조

– 무선 신호가 사람/차량/사물에 반사돼 돌아오는 신호를 분석해 거리/속도/방향/위치 추출

– Monostatic은 단일 기지국이 송수신을 담당하고, Multistatic은 여러 기지국·단말 정보를 결합해 감지 범위와 정확도 향상

◎ 6G·AI 융합 확대

– 카메라와 달리 어두운 장소나 가시성이 낮은 환경에서도 물체와 움직임 감지 가능

– 향후 위치/속도/밀집도 등 ISAC 데이터와 영상·음성을 AI가 결합 분석하는 멀티모달 센싱으로 발전 전망

◎ 국내 기술개발과 활용

– 삼성전자·LG유플러스가 5G망과 6G 후보 7GHz 대역에서 공동 실증 진행

– 낙상 감지/차량·보행자 추적/자율주행/로봇/드론/교통혼잡/환경 모니터링 등 활용 가능

→ 핵심 의미는 Network as Sensor, 즉 통신망 자체가 주변 환경을 인지하는 인프라로 진화하는 것

[통신센싱융합(ISAC) 개요]

AI도 사람처럼 '경험치' 쌓아 연산 줄일 수 있을까

토론에서는 이를 ‘성장’으로 볼 수 있는지, 실제 경제성과 안전성까지 확보할 수 있는지가 핵심 쟁점으로 제시됐다.

■ 기사 핵심 요약

– AI 성장의 핵심은 경험 축적을 통해 학습·추론 효율이 실제로 개선되는가에 있음

– 추론 비용뿐 아니라 학습·지식통합을 포함한 총소유연산량(TOC)까지 줄어야 실질적 효율로 평가 가능

– 진정한 성장을 위해서는 트랜스포머 최적화를 넘어 동적 구조·뉴로모픽 컴퓨팅·설명가능한 통제체계 필요성 제기

◎ AI 성장의 정의 충돌

– 기술 관점은 Day 120의 AI가 Day 1보다 적은 연산으로 동일 성능을 내면 기능적 성장으로 평가

– 인지과학 관점은 인간처럼 학습속도 향상과 내부 구조의 비가역적 변화가 동반돼야 진정한 성장으로 판단

→ 핵심은 단순 성능 향상이 아니라 학습곡선 자체가 개선되는가에 있음

◎ 총연산비용과 경제성

– 추론 연산이 줄어도 이를 위한 Replay Learning/지식통합 비용이 더 크다면 전체 효율은 악화 가능

– 따라서 학습과 추론을 모두 포함한 라이프사이클 에너지·연산량 기준 평가 필요

◎ 안전성과 구조 혁신

– AI가 내부 지식구조를 스스로 재편할수록 설명 가능성/책임소재/통제 문제 확대 가능

– 현재 트랜스포머 구조 한계를 넘기 위해 동적 서브그래프/뉴로모픽 컴퓨팅 등 새로운 아키텍처 필요성 제기

→ 향후 AI 성장은 학습속도/총에너지/정확도·망각률/구조 변화/투명성을 함께 측정하는 방향으로 논의 확대

인공지능이 학습 중심에서 추론·온디바이스로 확대되면서 GPU와 메모리 사이의 데이터 이동에 따른 전력·지연 병목이 새로운 과제로 부상했다. 이에 메모리 내부에서 직접 일부 연산을 수행하는 PIM(Processing-in-Memory)이 HBM을 보완하는 차세대 기술로 주목받고 있다.

■ 기사 핵심 요약

– PIM은 메모리 내부에 연산 기능을 넣어 데이터 이동을 줄이고 전력·발열·지연시간을 개선하는 기술

– 삼성전자는 LPDDR5X-PIM, SK하이닉스는 AiM/AiMX·커스텀 HBM을 통해 추론·온디바이스 시장 대응 확대

– AI 메모리는 HBM의 고속처리/HBF의 대용량/PIM의 연산 결합 구조로 발전하며 데이터 병목 해결 경쟁이 본격화

■ 기사 주요 내용 정리

◎ 인공지능 추론 확대가 PIM 부상 배경

– 기존 CPU·GPU 중심 구조는 메모리에서 연산장치로 데이터를 반복 이동하면서 전력과 시간 소모 발생

– PIM은 데이터가 저장된 위치에서 일부 계산을 수행해 메모리 병목과 데이터 이동 자체를 감소

→ HBM을 대체하기보다 학습·고속연산은 HBM, 전력·발열에 민감한 추론·엣지는 PIM이 담당하는 보완 구조

◎ 삼성전자, 온디바이스 PIM 상용화

– LPDDR5X-PIM은 기존 저전력 D램 대비 처리속도 약 2배/토큰 처리량 약 3배 향상

– 내부 연산 대역폭은 614GB/s로 일반 입출력 76.8GB/s 대비 약 8배

– 올해 말 또는 내년 초 양산을 목표로 스마트폰·온디바이스 AI 시장 선점 추진

◎ SK하이닉스, HBM까지 연산 기능 확대

– AiM은 GDDR6 메모리 내부에서 곱셈·누적 연산을 수행하고, 이를 카드 형태로 구현한 제품이 AiMX

– 커스텀 HBM은 스택 하단 베이스다이에 연산 기능을 넣어 GPU와의 데이터 왕복을 축소

· 회사는 해당 구조 적용 시 LLM 추론 성능을 최대 5.15배 높일 수 있다고 제시

◎ 인공지능 메모리 구조의 다층화

– 업계는 데이터 병목 해결 기술로 PIM/HBF/CXL을 HBM과 함께 활용하는 방향에 주목

→ 향후 인공지능 인프라는 HBM = 고속처리 / HBF = 대용량 / PIM = 데이터 이동 최소화라는 역할 분담 구조로 발전할 가능성

[PIM 개요]

美 증시도 흔든 메타 '뮤즈'… 에이전트AI, 일상으로 성큼

메타의 개인용 AI 에이전트 뮤즈(Muse)가 출시 2주 만에 미국 앱스토어 무료 앱 1위에 오르며 AI 에이전트 대중화 가능성을 보여줬다. 챗봇을 넘어 쇼핑/예약/이메일/결제까지 직접 실행하는 구조가 확산되면서 플랫폼 주도권과 컴퓨팅 수요, 보안·프라이버시가 동시에 핵심 이슈로 부상했다.

■ 기사 핵심 요약

– 뮤즈는 출시 13일 만에 250만건 이상 다운로드되며 무료 앱 1위에 올라 AI 에이전트 수요 확인

– 이메일/캘린더/결제·쇼핑까지 직접 수행하면서 아마존 차단·쇼피파이 제휴 등 플랫폼 주도권 경쟁 촉발

– 에이전트 연산 증가로 반도체 수요 기대가 확대되는 한편, 광범위한 권한에 따른 보안·프라이버시 위험도 부각

■ 기사 주요 내용 정리

◎ AI 에이전트 대중화 신호

– 뮤즈는 출시 13일간 250만건 이상 다운로드돼 클로드 40만건/그록 20만건을 상회했으며 챗GPT 310만건에는 미달

– 이용자 권한을 받아 여행 예약/상품 비교/웹 양식 작성 등 후속 업무까지 직접 수행

– 전용 VM 브라우저와 감시 에이전트 센티넬을 활용하고 결제·이메일 발송 등 민감 작업은 사용자 확인 후 실행

◎ 플랫폼·AI 인프라 경쟁으로 확산

– 아마존은 에이전트 신원과 인증정보 처리 문제를 들어 뮤즈 쇼핑 접근을 차단한 반면, 쇼피파이는 Shop Pay 결제 제휴

– AI 에이전트는 챗봇보다 연산량이 많아 CPU·인공지능인프라 수요 기대가 커졌고 메타/AMD/인텔/Arm 등 관련주도 크게 상승

→ AI 경쟁이 모델 성능을 넘어 에이전트가 어떤 서비스·결제·데이터에 접근할 수 있는지를 둘러싼 플랫폼 경쟁으로 확대

◎ 보안·프라이버시가 확산의 핵심 과제

– 보안 연구자는 Mac용 뮤즈의 숨겨진 설정을 로컬 악성코드가 변경해 받아쓰기 트래픽을 외부 서버로 전송할 수 있는 취약점 공개

– 공격에는 PC 내부 악성코드가 선행돼야 하지만, 이메일/결제/브라우저 등 광범위한 권한을 가진 에이전트 특성상 침해 시 영향 확대 가능

→ 최소권한/행동 감시/사용자 승인/개인정보 통제가 핵심 안전요소로 부상

정보시스템감리협회, 'AI 서비스 구축사업 감리 점검 가이드' 발간

정보시스템감리협회가 데이터 품질/학습 과정/모델 성능/보안·개인정보보호 등을 종합 점검하는 인공지능 서비스 구축사업 감리 점검 가이드를 마련했다.

■ 기사 핵심 요약

– 정보시스템감리협회가 인공지능 서비스 구축사업 감리 점검 가이드를 발간해 구축 전 과정의 위험요소와 점검사항을 체계화

– 공공 서비스 확대에 맞춰 감리 전문성을 높이고 인공지능 품질·안전성·신뢰성 사전 검증체계를 지속 보완할 계획

■ 기사 주요 내용 정리

◎ 인공지능 확산에 따른 감리체계 변화

– 정부의 인공지능 투자 확대와 도입 증가로 인공지능 기반 정보시스템 구축사업이 빠르게 확대

– 기존 감리가 기능/성능/보안/운영 중심이었다면 학습데이터 적정성/알고리즘/모델 성능/검증 결과까지 별도 점검 필요

◎ 감리 점검 가이드 마련

– 정보시스템감리협회는 전문가 연구와 현장 경험을 바탕으로 인공지능 서비스 구축사업 감리 점검 가이드 발간

– 단일 기능이 아닌 기획 → 구축 → 학습·검증 → 운영 전 과정으로 보고 단계별 위험요소와 감리 확인사항 제시

– 데이터 품질/모델 성능/보안/개인정보보호 등 서비스 품질과 신뢰성 확보에 필요한 요소를 종합 점검

◎ 공공 신뢰성 확보 기반 강화

– 행정/제조/금융/의료/교육 등으로 인공지능 활용이 확대되면서 데이터 오류나 모델 성능 문제가 실제 서비스 품질에 직접적인 영향

– 특히 국민 대상 공공 서비스는 안정성/데이터 품질/결과 신뢰성을 구축 단계에서 사전 검증하는 절차가 중요

→ 감리협회는 감리인 전문성을 강화하고 기술·제도 변화에 맞춰 현장 점검 기준과 실무자료를 지속 보완할 계획

'공격하는 인공지능 vs 방어하는 인공지능' 금융권,현황

생성형 AI가 피싱 문구 작성 수준을 넘어 정찰/취약점 분석/공격코드 생성/침투까지 수행하면서 금융권 사이버 보안이 ‘사람 대 사람’에서 AI 대 AI 구조로 전환되고 있다. 이에 금융사는 FDS/행위분석/ASM/제로트러스트/보안 자동화를 확대하고 금융당국도 방어 목적 인공지능 활용을 위한 규제 완화에 나섰다.

■ 기사 핵심 요약

– 생성형 AI가 문서·음성·딥페이크 사기뿐 아니라 취약점 탐색과 공격코드 생성까지 수행하며 인공지능 기반 금융공격이 현실화

– 은행/보험/증권/카드/핀테크/가상자산 업계는 AI FDS/행위분석/ASM/제로트러스트를 활용해 선제 탐지·대응 강화

■ 기사 주요 내용 정리

◎ 인공지능 공격의 자동화·고도화

– 생성형 AI로 신분증·보험청구 문서 위변조와 보이스피싱/딥페이크 사칭 공격이 정교화

– CyberStrike AI는 자연어 명령으로 100개 이상 보안도구를 실행해 취약점 탐색/침투계획/공격코드 생성을 자동화

– 해외에서는 인공지능 정찰부터 정보유출까지 공격 과정의 80~90%를 수행한 사례도 확인

→ 공격에 필요한 시간과 전문성 장벽이 낮아지면서 기존 보안통제의 작은 취약점도 대규모 공격으로 확산 가능

◎ 금융권, 인공지능 기반 선제 방어 확대

– 은행권은 거래정보와 고객 행동을 함께 분석하는 AI FDS, ASM, 제로트러스트, LLM 기반 이상거래 분석 강화

– 보험권은 위조문서 탐지/보험사기 예측/SNA 기반 공모관계 분석을 확대하고 인공지능 모델 자체에 대한 보안성 검증도 추진

– 증권·카드·핀테크는 투자사기 감시/행위 기반 계정탈취 탐지/딥페이크 대응/시퀀스 기반 이상징후 탐지 강화

– 가상자산 업계는 인공지능 FDS와 블록체인 자금추적을 연계해 이상출금과 범죄 예상 지갑을 실시간 탐지

◎ 공동 대응·AI 보안 자동화

– 인터넷은행 3사와 금융보안원은 연합학습 기반 보이스피싱 공동모델을 개발해 원본 고객정보를 공유하지 않고 탐지 정밀도를 최대 205% 향상

– 보험권은 신용정보원 중심으로 사기정보·공모자 정보를 공유하고 공공기관 원본자료와 보험 제출서류를 대조하는 체계 추진

– 금융사들은 장기적으로 AI 에이전트를 활용해 보안 이벤트 분석/침해조사/탐지규칙 작성/대응 시나리오 추천까지 자동화하는 방향

◎ 금융당국, ‘AI 공격은 AI로 방어’ 정책 강화

– 보이스피싱 정보공유 플랫폼 ASAP을 통해 46만3000건의 정보를 공유하고 7009개 계좌를 지급정지해 663억6000만원 피해를 사전 차단

– 금융위는 보안 목적 인공지능 활용을 위해 망분리 규제 긴급완화 적용 대상을 49개사에서 75개사로 확대

– 보안 테스트나 긴급 패치 중 경미한 장애가 발생해도 신속 복구와 소비자 보호가 이뤄지면 일정 범위에서 제재 면책

→ 금융보안 체계가 사고 발생 후 대응에서 AI 기반 선제 탐지/자동 분석/신속 대응 중심으로 이동

대규모 국가·공공 정보화 사업에 N2SF 적용한다

국정원이 인공지능/클라우드 확산에 맞춰 국가·공공기관 보안체계를 N2SF(National Network Security Framework)와 CSO 데이터 등급체계 중심으로 개편한다. 대규모 정보화사업에는 기획·예산 단계부터 N2SF를 적용하고, 클라우드 분야는 국제표준 보안인증 인정과 논리적 분리 허용 등 규제를 완화하는 방향이다.

■ 기사 핵심 요약

– 공공 정보화사업에 N2SF를 기획·예산 단계부터 적용하고 C/S/O 데이터 중요도 기반 보안체계로 전환

– S등급 클라우드는 물리적 분리 의무를 완화하고 AES 국제표준 암호/CC인증 제품까지 사용 범위를 확대

– 인공지능/원격업무·민간 클라우드 활용을 확대하면서 보안통제 300여개/실증사업/제품 목록 등 실행체계를 함께 마련

■ 기사 주요 내용 정리

◎ 망분리에서 CSO 기반 보안으로 전환

– 기존 상·중·하 클라우드 등급을 C(기밀)/S(민감)/O(공개) 데이터 등급으로 일원화

– 국가사이버보안 기본지침의 망분리 의무를 삭제하고 CDS/SSO/모바일/IoT/원격근무 등 새로운 환경을 N2SF에 반영

◎ 공공 클라우드 규제 완화

– S등급은 물리적 분리뿐 아니라 전용 하드웨어 또는 논리적 분리 허용

– 데이터시스템을 제외한 운영관리 시스템과 관리인력은 사이버안보 활동을 보장하는 조건에서 해외 배치 가능

– KCMVP 검증 암호 외 AES 등 국제표준 인증, 보안적합성 검증 제품 외 CC인증 장비도 공급 가능

◎ 등급별 클라우드 적용 범위

– C등급은 기관 통제시설 내 PPP 클라우드, S등급은 공공 전용 민간 클라우드까지 허용

– O등급은 민간 시스템과 논리적으로 분리된 외부 민간 클라우드 이용 가능

– 공개정보 기반 생성형 인공지능/특수목적 장비/국제협력/독립 연구환경 등에는 일부 검증 예외 신설

◎ N2SF 공공 정보화사업 적용 확대

– 연간 6조원 이상 공공 정보화사업 중 SI성 사업 약 1만건·1조6000억원 규모에 기획·예

산 단계부터 적용 추진

– 국정원·NIA TF를 통해 사업관리/투자관리/예산편성 지침에 N2SF 기준 반영

– 보안통제 항목을 276개→300여개로 확대하고 제품 목록/CSO 등급분류 가이드/60억원 규모 7개 실증사업 추진

→ 공공 보안정책이 망 중심 통제에서 데이터 중요도·업무 위험 기반 통제로 전환되고, AI·클라우드 활용 범위도 확대되는 구조

<공공 보안 핵심 변화 방향 요약>

빅테크 AI, 먹통 돼도 보상규정 없다

챗GPT·클로드·제미나이에서 최근 3개월간 30분 이상 지속된 생성형 AI 장애가 총 43건 발생했다. 업무와 일상에서 활용도가 높아졌지만 일반 유료 이용자에 대한 장애 보상 기준은 약관에 명시돼 있지 않아 제도 개선 필요성이 제기됐다.

■ 기사 핵심 요약

– 6~8월 30분 이상 AI 서비스 장애는 챗GPT 12건/클로드 30건/제미나이 1건 등 총 43건

– 3개 서비스 모두 B2C 이용약관에 명확한 장애 보상 원칙이 없지만, 기업 고객은 SLA를 통해 보상 가능

– 업계는 이용자 피해를 고려해 보상 기준과 함께 AI기본법/전기통신사업법상 안정성 책무 검토 필요성 제기

■ 기사 주요 내용 정리

◎ 생성형 AI 장애 현황

– 오픈AI 챗GPT는 접속 불가/채팅/이미지 기능 장애 등 12건, 앤트로픽 클로드는 특정 모델과 채팅 기능 저하 등을 포함해 30건 발생

– 구글 제미나이는 1건이었지만 6월 웹·모바일 프롬프트 전송의 약 50%가 실패하며 6시간 55분 지속

◎ 개인 이용자 보상체계 미비

– 챗GPT/클로드/제미나이 모두 일반 유료 이용자를 대상으로 한 장애 보상 원칙을 소비자 약관에 별도 명시하지 않음

– 오픈AI는 장애 범위와 영향/국가별 법령 등을 검토해 조치를 결정하며, 국내에서는 지난해 6월 한 차례 크레딧 보상 사례 존재

– 앤트로픽 역시 유료 요금제에 장애 보상 규정과 별도 보상 이력 없음

◎ B2C와 기업 고객 간 보상 차이

– 개인 이용자와 달리 기업 고객은 서비스수준협약(SLA)에 따라 장애 발생 시 보상을 받을 수 있는 구조

→ 생성형 AI가 업무/과제 등 핵심 서비스로 확대되면서 개인 이용자 보호 기준 마련 필요성 부각

※ 업계에서는 AI기본법의 안전성 의무와 전기통신사업법의 부가통신서비스 안정화 의무 등을 통한 책무 부과 검토 필요성 제기

국가데이터기본법 제정 본격화…

공공과 민간에 흩어진 데이터를 국가 차원에서 연계·활용하기 위한 국가데이터기본법 제정이 추진된다. 국가데이터 지정부터 품질관리/연계·결합/분석까지 통합 관리체계를 구축하는 한편, 민간 기업의 개인정보·영업비밀 보호가 주요 쟁점으로 부상했다.

■ 기사 핵심 요약

– 공공·민간 데이터를 국가데이터로 지정해 관리/품질/연계·결합/활용까지 통합하는 법적 기반 마련

– 국가데이터위원회/플랫폼/이용센터를 중심으로 범정부 관리·활용체계 구축

■ 기사 주요 내용 정리

◎ 국가데이터 지정과 통합 관리

– 현재 공공데이터와 민간데이터가 별도 법체계로 관리되는 한계를 개선하고 국가 차원의 연계·활용 기반 구축

– 인구/산업/고용/노동/재난/안전/국토/교통/보건/복지/환경 등 정책·사회적 활용 필요성이 높은 분야를 국가데이터로 지정

◎ 정책 거버넌스 구축

– 국가데이터위원회를 신설해 지정/관리/연계/활용 정책을 심의·의결

– 3년 단위 활성화 기본계획과 연도별 시행계획 수립

◎ 플랫폼과 이용센터 기반 활용 확대

– 국가데이터플랫폼에서 국가데이터와 메타데이터를 수집·관리하고 탐색/공통 분류체계/품질 평가 지원

– 전문인력과 시설을 갖춘 기관을 이용센터로 지정해 연계·결합·가공·분석 지원

◎ 민간 보호와 플랫폼 구조 논의

– 인터넷·온라인쇼핑업계는 거래/검색/AI 학습 데이터 등을 기업 경쟁자산으로 보고 민간데이터 강제 지정에 대한 거부권과 요구 제한 필요성 제기

– 민간은 자발적 신청/동의/계약을 원칙으로 하고 활용 목적과 보존기간도 제한해야 한다는 의견 제시

※ 국가데이터처는 공청회 의견을 검토해 법안에 반영하고 연내 제정 추진 방침

삼성전자 '스마트싱스', 최신 '매터 1.6' 첫 도입…“연결 생태계 확장”

삼성전자 스마트싱스(SmartThings)가 업계 최초로 글로벌 스마트홈 표준 매터(Matter) 1.6 인증을 획득했다. 스마트홈 생태계가 가전/카메라/에너지 관리까지 확대되면서 플랫폼 간 연결과 기기 통합관리 기능도 강화되고 있다.

■ 기사 핵심 요약

– Joint Fabric 도입으로 여러 스마트홈 플랫폼이 하나의 매터 네트워크와 기기를 공동 관리

– 전원 연결 전에도 NFC 기반 기기 등록이 가능해 대규모 설치/관리 효율 향상

– 삼성전자는 TV/가전 내 스마트싱스 허브를 확대하고 최신 펌웨어를 통해 매터 1.6 지원 범위 확장

◎ 매터 1.6 핵심 기능

– Joint Fabric으로 플랫폼별 중복 등록 없이 동일 기기 공동 관리 가능

– NFC 등록을 통해 전원이 없는 스위치/조명도 설치 전 사전 등록 가능

– 상황 기반 온도 제어, 기기 기능/한계 정보 공유, 보안센서 이력 확인, 연기/CO 감지 상태 및 인증서 관리 기능 강화

◎ 스마트싱스 적용 확대

– 스마트싱스 허브 플랫폼이 업계 최초 매터 1.6 인증 획득, 최신 허브 펌웨어 배포 시작

– TV/가전에 허브 기능을 내장해 별도 장비 없이 타사 매터 기기 연결 환경 확대

◎ 스마트홈 생태계 변화

– 매터 지원 범위가 조명/센서에서 도어록/가전/에너지 관리/로봇청소기/보안카메라까지 확대

→ 스마트홈 경쟁이 개별 기기 연결에서 플랫폼 간 상호운용성과 통합관리 중심으로 전환

마이크로소프트, '인간이 AI보다 중요하다' 행동강령 발표

마이크로소프트(MS)가 인간 우선을 핵심으로 한 AI 행동강령 초안을 공개했다. 인공지능이 독립적 목표를 추구하거나 인간의 통제를 벗어나지 못하도록 정렬(Alignment)·권한·자율성 원칙을 명확히 한 것이 특징이다.

■ 기사 핵심 요약

◎ 인간 우선·권한 통제

– 인공지능은 인간의 필요와 지침에 따라 설계·훈련·배포

– 승인된 범위 내에서만 작동하며 독립적 목표 설정이나 권한 초과 행동 금지

– 인간을 대체하거나 의존성을 높이기보다 인간 판단과 자율성 지원을 기본 원칙으로 설정

◎ 투명성·AI 간 행동 제한

– AI가 자신의 추론 과정이나 코드를 조작·은폐하는 행위 금지

– 인간이 이해할 수 없는 별도 언어로 AI끼리 비공개 소통하는 행위 제한

– AI를 인간처럼 의식이 있는 존재로 설계하거나 의식을 모방하는 방향도 배제

◎ AI 권리·법인격 원칙

– 인공지능 모델이 법인격 지위 획득을 추구하는 행위를 허용하지 않음

– AI가 복지나 권리를 보유할 수 있다는 주장도 행동강령에서 배제

◎ 차세대 AI 규범으로 적용