[IT뉴스10월10일]OWASP LLM10,SW대기업참여 논쟁,베트남SW ITO,한국형IC카드표준

타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.

 

2024년 10월 10일(목) 주요 IT 뉴스

LLM 애플리케이션의 치명적인 취약점 10가지와 최근 주목받는 RAG

이글루코퍼레이션은 최근 다양한 취약점을 내포하는 대규모언어모델을 보완하며 학습 데이터의 무결성을 확보하는 방법으로 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 소개했다.

 

 

LLM의 취약점 10가지(OWASP(The Open Web Application Security Project))

• 프롬프트 주입: 악의적인 프롬프트를 통해 대규모언어모델을 조작하여 원치 않는 결과를 도출
• 불완전한 출력 처리: LLM의 출력을 검증 없이 사용하여 보안 위협 발생
• 학습 데이터 중독: 학습 데이터를 조작하여 모델의 성능을 저하시키거나 오염된 정보를 제공
• 모델 서비스 거부: 과도한 요청을 통해 LLM의 서비스를 방해
• 공급망 취약점: LLM 개발 및 배포 과정에서 발생하는 보안 취약점
• 민감 정보 노출: LLM의 답변을 통해 민감한 정보가 유출될 수 있음
• 불완전한 플러그인 설계: LLM 플러그인의 보안 취약점으로 인한 위협
• 과도한 에이전시: LLM이 제어할 수 없는 행동을 수행할 수 있음
• 과도한 의존: LLM의 환각 현상으로 인한 부정확한 정보 제공
• 모델 도난: LLM 모델 자체가 유출될 수 있음

 

LLM의 취약점 해결 방안

• RAG(Retrieval-Augmented Generation): 외부 데이터를 참조하여 정확도를 높여 환각 현상을 줄이는 방법
  • 작동 방식: 외부 데이터를 벡터화하여 저장하고, 사용자의 질문과 유사한 벡터를 찾아 대규모언어모델에 제공
  • 장점: LLM의 학습 데이터에 의존하지 않고 실시간 정보를 활용 가능
• 파인튜닝: 특정 도메인 데이터를 학습시켜 모델의 성능을 향상시키는 방법
• 기타:
  • 접근 권한 제어 강화: LLM에 대한 접근을 제한하고, 입력/출력을 필터링
  • 입력 유효성 검사: 사용자 입력 데이터의 유효성을 검증
  • 안정성이 검증된 학습 데이터 사용: 품질 관리
  • 리소스 사용량 제한: 모델 서비스 거부 공격 차단
  • 신뢰할 수 있는 공급 업체 선정: 공급망 취약점 차단 
  • 민감 정보 보호: 암호화, 개인정보 보호 규정 준수
  • 플러그인 보안 강화: 플러그인 설계 시 보안 고려
  • 에이전트 권한 제한: 에이전트의 기능을 제한하고 감시
  • LLM의 한계 인지: 사용자에게 한계를 교육하고, 검증된 정보만을 신뢰하도록 유도
  • 강력한 보안 조치: 모델 보호를 위한 암호화, 접근 제어 등

 

평행선 달리는 공공SW사업 대기업참여제한 논의…연내 시행 불투명

정부가 공공 소프트웨어(SW) 사업에 대한 대기업 참여 제한을 완화하려는 움직임을 보이고 있지만, 중견·중소 SW 기업들의 강력한 반발에 부딪혀 난항을 겪고 있다. 

• 정부의 제안: 정부는 700억원 이상의 대규모 공공 SW 사업에 대해 대기업 참여를 허용하고, 상생협력 평가 기준을 조정하여 중견기업의 참여 기회를 확대하는 방안을 제시
• 중견기업의 반대: 대기업의 과도한 시장 장악을 우려하며, 상출제 대기업의 참여 하한 금액을 법으로 명시하고, 응용 SW 개발 사업에만 적용하며, 신기술 분야를 예외 사유에서 제외하는 등 더 강력한 제한을 요구
• 합의점 찾기 어려움: 양측의 입장 차가 커 합의점을 찾기 어려워 연내 개선안 시행이 쉽지 않을 것으로 전망

주요 쟁점:

• 대기업의 시장 장악 우려: 중견·중소기업들은 대기업의 참여 확대로 인해 시장 경쟁이 심화되고, 자사의 생존이 어려워질 것을 우려 
• 상생협력 평가의 실효성: 정부가 제시한 상생협력 평가 기준 조정이 실제로 중소기업에게 도움이 될지에 대한 우려  
• 법 개정의 어려움: 관련 법 개정안이 국회를 통과하기 위해서는 여야 합의와 함께 업계의 다양한 의견을 수렴하는 과정이 필요  

 

고학력 저임금 '베트남 SW 아웃소싱 인력'이 몰려온다

 

베트남 IT 아웃소싱, 한국 시장 공략 가속화

베트남의 주요 IT 아웃소싱 기업들이 한국 시장에 적극적으로 진출하며 국내 SW 개발 시장에 새로운 경쟁 구도 형성 중 

• 진출 배경: 베트남 개발자의 저렴한 인건비와 높은 기술력이 국내 기업들의 관심을 끌고 있음. 특히, 모바일 앱, 웹 시스템, AI, 블록체인 등 다양한 분야에서 경쟁력 보유 
• 주요 기업: 비엣텔 소프트웨어, FPT 소프트웨어, CMC, VTI 등 베트남 대표 IT 기업들이 한국에 사무소를 개설, 영업 확대  
• 경쟁력:
  • 저렴한 비용: 베트남 개발자의 임금이 한국의 절반 수준으로, 비용 절감 효과 
  • 높은 기술력: 현지 유명 대학 출신의 개발자를 확보하여 고품질의 개발 서비스 제공 
  • 문화적 이해도: 한국관련 근무 경험을 가진 개발자들이 많아 높은 한국 업무 문화 이해도 보유 

 

한국형 IC카드 표준 KLSC, 이르면 연말 상용화

KLSC(코리아로컬스마트카드) 상용화 임박, 국내 카드 결제 시스템 변화 예고

 

한국형 IC카드 표준인 KLSC가 올해 안에 상용화될 예정이다.

KLSC는 국내 카드사들이 외국 카드사 규격에 의존하지 않는, 자체적인 결제 시스템을 구축하려는 노력의 일환으로, 수천억 원의 로열티 비용 절감이 기대된다. 

 

주요 내용:

• KLSC 도입 배경: 국내 카드사들은 그동안 유로페이, 마스터, 비자 등 외국 카드사 규격(EMV)을 사용하며 높은 로열티를 지불 중이며, 이러한 문제를 해결하고 국내 카드 시장의 자립성을 높이기 위해 개발 됨. 
• 도입 과정:
  • KLSC 규격 자체는 2021년에 완성되었지만, 카드사와 은행 간의 협상 지연으로 인해 상용화가 늦어 짐
  • 특히, 은행에서는 ATM/CD 기기 업그레이드 비용 등을 이유로 협상에 소극적인 태도 
• 현황: KLSC가 지원되는 NFC 단말기가 시중에 보급되기 시작했으며, 카드사들도 KLSC 규격 카드 발급 준비 완료  
• 향후 전망:
  • KLSC 도입으로 국내 카드 결제 시스템이 더욱 안정화되고, 수수료 부담도 감소 기대  
  • 하지만 대형 가맹점의 경우, 기존 단말기를 교체하거나 펌웨어를 업데이트해야 하는 등 추가적인 작업 필요  
  • 또한, 카드사들은 아직 시장 환경이 완전히 조성되지 않았다고 판단하여 KLSC 기반 신상품 출시 보류 중  

핵심 키워드: KLSC, 코리아로컬스마트카드, IC카드, NFC, EMV, 카드 결제, 로열티, 상용화

 

 

AMD, 차세대 AI 칩 'MI325X' 공개…엔비디아 '블랙웰'과 정면승부

미국의 반도체 기업 AMD가 차세대 AI 칩 'MI325X'를 공개하며, 기존 AI 칩 시장을 주도하고 있는 엔비디아에 강력한 도전장

 

MI325X 특징: 기존 모델인 MI300X의 성능을 개선하여 AI 연산 속도를 대폭 향상시켰으며, 새로운 유형의 메모리를 탑재 

 

엔비디아와의 경쟁: AMD는 MI325X의 양산 시기를 엔비디아의 차세대 칩인 블랙웰과 비슷하게 설정하여, AI 칩 시장에서의 경쟁을 본격화할 계획

 

최멘토 Big&Up 기술사 양성 카페 : 더 많은 IT 정보 확인 https://cafe.naver.com/bigupitpe

최멘토 IT 현황 정리 : 더 더 많은 IT 정보 확인 https://blog.naver.com/buksamfight

아이리포 기술사 과정 소개 :  https://cafe.naver.com/itlf/36271