[1월14일]AI 엔진! 합성데이터,AI리스크 관리시스템,스타링크 3월개통,크리덴셜 스터핑

타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.

2025년  1월 14일(화) 주요 IT 뉴스

 

AI안전연구소장 "LG·네카오 등과 'AI 리스크 관리 시스템' 만들 것"

AI가 초래할 수 있는 위험성

인공지능(AI)안전연구소가 ‘리스크 관리시스템’을 구축한다. 정부가 인공지능의 안전성을 강화하기 위해 지난해 11월 설립한 AI안전연구소의 첫 번째 미션인 셈이다.

인공지능에 숨겨진 리스크를 찾아 분석하고 대응책을 마련하기 위한 것으로, 관련 업계도 동참한다.

 

AI안전연구소의 주요 활동 및 계획

 

리스크 관리시스템 구축:

• 목적: AI에 숨겨진 리스크를 분석하고 대응책 마련.
• 참여 기업: LG AI연구원, 네이버, 카카오 등 국내 기업.

 

설립 배경:

• 2023년 'AI서울 정상회의' 계기로 과기정통부 주도 설립.
• 윤석열 대통령, 글로벌 인공지능 안전성 강화 의지 표명.

 

인공지능의 이중성:

• 위험성: 인공지능을 통한 악성코드 생성, 사회문화적 편견, AGI 통제 상실 가능성.
• 기회: 국가 경쟁력 제고.

 

인공지능 안전성 평가:

• 인공지능 서비스의 안전 평가 실시 예정, 결과는 비공개.
• 국제 표준화 필요성 제기, 영국과 협업 계획.

 

국제 네트워크 합류:

• 미국, 일본, 싱가포르, 캐나다에 이어 2023년 한국 AI안전연구소 설립.
• 각국의 인공지능 안전성 주도권 경쟁 중.

 

AI 기본법 후속 작업:

• '고영향 AI' 기준 마련 및 기업 가이드라인 구축.
• 인공지능 글로벌 서비스 진입장벽 해소를 위한 역할 수행.

 

미래 전망:

• 2025년 인공지능 일상화 본격 시작 예상.
• 시민들의 인공지능 리터러시 성숙 및 리스크 의견 개진 독려.

 

 

오픈AI·메타도 쓰는 '인공지능 엔진' 합성데이터…"안전성 검증 필요"

생성형 인공지능 모델 개발에 필요한 Data가 고갈된다는 전망이 이어진 가운데 '합성데이터'가 대안으로 떠오르고 있다.

개인 식별정보나 민감정보 노출 없이 이용할 수 있다는 이점이 있지만 완전히 안심할 수 없다는 목소리가 높아지고 있다.

 

합성데이터: 생성형 인공지능 데이터 부족의 대안

 

배경

• 데이터 부족 문제: 생성형 인공지능 모델의 발전으로 훈련 데이터 수요 증가, 개인정보보호법 등 규제로 수집 어려움.
• 합성데이터 부상: 원본 Data를 모방해 생성된 가상 데이터로, 개인정보 노출 없이 활용 가능.

 

합성데이터 특징 및 장점

• 특징:
  • 원본 Data의 형식, 구조, 분포를 학습해 생성.
  • 문자, 이미지, 동영상 등 정형·비정형 으로 제작 가능.

 

• 장점:
  • 민감정보 포함 가능성 감소로 개인정보보호 강화.
  • 수집·라벨링 비용 절감, 신속한 학습 가능.
  • 제조 결함, 재난, 보안 이슈 등 드문 데이터 대체 가능.

 

활용 사례

• 빅테크(오픈AI, 구글, 메타)에서 모델 훈련에 활용.
• 의료, 금융, 국방, 제조 등 민감 데이터 분야에서 사용.
• 생성사들이 부족한 데이터 유형을 맞춤 제작해 제공.

 

도전 과제

• 개인정보 포함 가능성: 일부 합성데이터에 개인정보 또는 편향된 정보 포함 우려.
• 품질 저하 문제: 품질이 낮은 data로 학습 시 모델 성능 저하 가능.
• 검증 필요성:
  • 허위, 편향 예방.
  • 재식별 가능성을 막기 위한 시스템 구축 필요.

 

정부의 노력

• 개인정보보호위원회:
  • 가이드라인 발표: 사전 준비, 생성, 검증, 평가, 관리의 5단계 절차.
  • 비정형 데이터(영상, 음성 등)에 대한 추가 연구 필요성 제기.
  • 동의 요건 확인 등 적법성 검토 권장.

 

 

[이슈플러스]'단순하지만 강력'…크리덴셜 스터핑에 계속 뚫리는 보안

 

 

크리덴셜 스터핑 공격 및 개인정보 유출 사고

 

크리덴셜 스터핑 정의:

• 해커가 탈취한 계정 정보(아이디·비밀번호)를 이용해 다양한 웹사이트에 로그인 시도를 반복하며 성공할 때까지 시도하는 공격 방식.

 

최근 사례:

• GS리테일: 약 9만 명의 개인정보(이름, 연락처 등) 유출.
• 대성마이맥: 크리덴셜 스터핑 및 XSS 공격으로 9만 5천여 명 피해.
• 워크넷·한국장학재단: 각각 23만 6천여 명, 3만 2천여 명 피해.

 

국내외 주요 사건:

• 2020년 연예인 스마트폰 해킹 사건(크리덴셜 스터핑 추정).
• 2024년 스노우플레이크 고객사 공격으로 수억 건 Data 탈취.

 

위협 및 영향:

• 성공률은 0.1~0.2%로 낮지 않음.
• 유출된 100만 건 중 1만~2만 건 계정 접근 가능.
• 개인정보 유출 사고가 추가 피해로 연결되는 악순환 구조.

 

주요 원인:

• 사용자들이 여러 사이트에서 동일한 로그인 사용.
• 보안대책 미흡(예: 로그인 실패 감지, 2단계 인증 부재).

 

대응 방안:

• 개인 차원:
  • 계정별 고유 비밀번호 사용.
  • 2단계 인증(2FA) 활성화.
  • 강력한 비밀번호 관리 및 정기적 변경.
• 기업 차원:
  • 로그인 시도 제한 및 CAPTCHA 도입.
  • OTP 등 추가 인증 체계 구축.
  • 24시간 감시 및 모니터링 체계 강화.

 

스타링크 이어 원웹, 韓 온다…위성통신 시대 눈앞

 

 

저궤도 위성망을 활용한 위성 인터넷 서비스가 올 상반기 국내에 첫선을 보인다. 일론 머스크가 이끄는 스타링크에 이어 유럽 위성통신업체 유텔셋 원웹도 서비스 개시를 앞뒀다.

 

저궤도 위성 인터넷 서비스 국내 도입

 

서비스 도입 배경:

• 저궤도 위성망 기반 인터넷 서비스가 올해 상반기 국내 도입 예정.
• 스타링크(SpaceX)와 원웹(Eutelsat) 서비스 개시 준비 중.
• 지상망이 닿지 않는 해상·상공에서도 통신 가능, 군 작전 능력 향상 기대.

 

원웹 서비스:

• 군사용 중심: 한화시스템과 협력하여 전시 및 재해 대비 군 전용 네트워크 구축.
• 기술기준 신설: 고도 1100~1300㎞ 비정지궤도위성 단말 지구국 기술기준 개정안 행정예고(3월 4일까지).
• 파트너십: 한화시스템(유통), 인텔리안테크(유저 터미널 공급).
• 다영역 동시통합작전수행(MDO) 능력 지원.

 

스타링크 서비스:

• B2B 중심: SK텔링크, KT SAT, LG유플러스와 협력해 해상 선박용 위성 인터넷 제공.
• 고속·저지연 통신: 원양어선 등 해상 서비스에 초점.
• 국내 규제 준비: 주파수 이용 조건 설정 및 법적 심사 절차 진행 중, 2분기 서비스 시작 예상.

 

기술적 차이:

• 원웹: 고도 1100~1300㎞, B2G(기업·정부 간 거래) 중심.
• 스타링크: 고도 650㎞ 이하, 초고속 통신 및 저지연 제공.

 

미래 전망:

• 단기적 영향은 제한적이지만, 도심항공교통(UAM), 자율운항선박 등 차세대 모빌리티 활성화 시 활용 증가 가능.
• 스타링크: 첫해 이용자 약 2000명 예상, 5년 후 누적 7만명 예상.

 

정부 및 업계 기대:

• 도서·산간·해상 등 지상 음영지역 통신망 해소.
• 통신 방식 다양화로 이용자 선택권 확대.