[2월22일]생성형AI의 4가지 위험, 소통하는 휴머노이드, EU디지털네트워크법 연내

타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.

2025년  2월 22일(토) 주요 IT 뉴스

생성형 AI가 불러온 4가지 위험...기업들의 고민 깊어진다

 

딜로이트(Deloitte)의 '생성형 AI 시대의 엔지니어링' 시리즈 최신 보고서에 따르면, 기업들이 직면한 생성형 AI의 위험은 크게 4가지로 분류된다.

기업 운영과 데이터에 대한 위험, 생성형 AI 기능 자체의 위험, 적대적 공격으로 인한 위험, 시장 관련 위험이 그것이다.

 

성형 AI 확산에 따른 사이버 보안 투자 및 대응 전략

 

1. 기업들의 인공지능 보안 투자 확대

• 77% 기업: 생성형 AI 관련 보안 위험에 대한 우려 표명
• 73% 기업: 인공지능 보안 투자 확대 계획
• 미국 기업 59%: 최근 12개월간 보안 역량 강화

 

2. 인공지능으로 인한 보안 위협 증가

• 삼성 사례: 직원들이 도구를 무단 사용해 민감 데이터 유출 → AI 사용 금지
• OWASP 경고: 모델 대상 프롬프트 인젝션, 환각 현상 등 치명적 결함
• 다크웹 악용: 2023년 80만 건 이상 GPT 관련 해킹 사례 발견

 

3. 기업의 AI 보안 대응 전략

• 작은 언어 모델(SLM) 전환: 인공지능 효율성 및 보안 강화
  • 세일즈포스, 구글, 엔비디아 등 저지연 SLM 개발
  • 워터마킹·디지털 자산 관리 등 보안 강화
• AI 방화벽 및 입력값 검증
  • LLM 애플리케이션 프롬프트 보안 강화
  • AI 방화벽 도입 및 최소 권한 접근 원칙 적용

 

4. 데이터센터 및 AI 인프라 혁신

• 인공지능 데이터센터 전력 소비 증가:
  • 2030년까지 미국 전체 전력의 15% 사용 전망
  • 구글·MS, 청정에너지·원자력 전력 도입
• AI 팩토리 구축 확대
  • 메타, 대규모 워크로드 지원 시스템 개발
  • 액체 냉각 시스템 도입으로 에너지 효율 개선
• 엣지 컴퓨팅·우주 통신망 활용
  • 기업 51%, 인프라 최적화를 위해 엣지 코로케이션 센터 활용
  • 일본 NTT, 위성 네트워크를 통한 데이터 처리 연구

 

5. 기업 리더십의 대응 필요성

• CISO(최고정보보안책임자) 역할 강화
• 인공지능 위험 노출도 분석 및 포괄적 보호 전략 수립
• 단일 솔루션이 아닌 맞춤형 보안 접근 방식 도입 필요

 

"과자 집어줘"에 반응…소통하는 휴머노이드 온다

피규어AI 휴머노이드 로봇 '피규어 02'에 VLA 모델 '헬릭스'를 적용한 모습

미국 로봇 스타트업 피규어AI가 20일(현지시간) 시각-언어-행동(VLA) 모델 '헬릭스'를 공개했다.

헬릭스는 휴머노이드 로봇이 더욱 자연스럽게 인간과 상호작용할 수 있도록 설계된 인공지능 시스템이다. 손목과 몸통, 머리, 개별 손가락까지 고속으로 제어할 수 있다.

두 대의 로봇이 동시에 작동하여 장시간의 협업 작업을 수행할 수 있다. 자연어 안내에 따라 다양한 물체를 집어 올릴 수 있어 가정 환경에서도 활용할 수 있다.

 

피규어AI, 시각-언어-행동(VLA) 모델 ‘헬릭스’ 공개

• 헬릭스: 휴머노이드 로봇이 자연스럽게 인간과 상호작용하도록 설계된 인공지능 시스템
• 특징:
  • 손목, 몸통, 머리, 손가락까지 고속 제어
  • 단일 신경망 가중치 사용 → 다양한 작업 수행 가능
  • 저전력 임베디드 GPU 활용 → 즉각적인 상용 배포 가능
  • 자연어 명령 기반 학습 → 별도의 프로그래밍 없이 협업 가능
• 활용성:
  • 가정 환경에서 다양한 물체 조작 가능
  • 다중 로봇 협업 가능 → 자연어 명령으로 물건 전달 등 수행
• 예시:
  • "오른쪽 로봇에게 쿠키 봉지를 건네줘" → 두 대의 로봇이 협업해 물체 이동 수행
• 의의:
  • 기존 로봇 공학의 한계를 극복, 보다 직관적인 인간-로봇 상호작용 실현

 

망 이용대가 논란 EU 행보 주목…`디지털네트워크법` 연내 발의 움직임

 

EU, 디지털네트워크법(DNA) 추진 및 AI 경쟁력 강화

유럽연합(EU)이 망 이용대가 논쟁 해결을 위한 법적 기반을 마련하고, 미국과 중국에 뒤처진 인공지능 경쟁력을 강화하기 위한 대책 수립에 나섰다.

특히 안정적인 디지털산업 발전을 위해 '디지털네트워크법(DNA)' 연내 추진에 속도를 낼 방침이다.

 

EU, 디지털네트워크법(DNA) 추진 및 AI 경쟁력 강화

 

1. 망 이용대가 문제 해결 위한 디지털네트워크법 추진

• EU 집행위원회, 디지털 인프라 투자 강조한 ‘경쟁력 나침반 보고서’ 발표
• 디지털네트워크법(DNA):
  • 망 이용대가 협상 불발 시 분쟁 해결 메커니즘 도입
  • 네트워크 비용 공정 분담 촉진, CP(콘텐츠 제공자)와 ISP(인터넷 서비스 제공자) 간 합리적 비용 배분 추진
  • 2024년 4분기 발의 및 시행 예정
• 배경:
  • 빅테크 기업(구글, 메타 등)이 전 세계 트래픽의 70% 차지 → 네트워크 유지 비용 부담 증가
  • 인공지능 확산으로 CP 트래픽 증가 예상, 글로벌 차원의 비용 분담 필요
• 국내 대응:
  • 방송통신위원회, 망 이용계약 의무화 추진
  • 전기통신사업법 개정안 발의(망 이용계약 체결 의무 부여)

 

2. 인공지능 경쟁력 강화를 위한 EU 전략

• 미·중 패권 경쟁 대응
• ‘인공지능 기가팩토리’ 및 ‘AI 적용 전략’ 추진
  • 대규모 인공지능 훈련 시설 최소 4곳 구축
  • 인공지능 모델 훈련을 위한 EU 클라우드·인공지능 디벨로프먼트 액트 제정
  • 인공지능 학습 위한 민·관 데이터 공유 촉진

 

3. 글로벌 영향 및 전망

• MWC 2025(모바일월드콩그레스)에서 정책 논의 가능성
• 대형 CP의 무임승차 문제 해결 필요
• 전문가 의견: 국제 협력(아시아·글로벌 정책 연맹) 통한 협상력 강화 필요