[6월7일 IT뉴스] 에이전틱 AI 위험 HITL착각, 국민 AI서비스 TF 신설

타이틀을 '검색' 하시면 원문 기사 확인이 가능 합니다.

2026년  6월 7일(일) 주요  IT 뉴스

---

에이전틱 AI 결정하고 사람은 승인만…가트너 “HITL 착각 조짐”

HITL의 착각

 

에이전틱 AI 확산으로 인공지능이 실제 결정을 주도하고 인간은 형식적 승인만 수행하는 구조가 확대되고 있다. 이에 따라 HITL 착각과 거버넌스 공백 문제가 주요 리스크로 부상했다.

 

■ 기사 핵심 요약

– 인공지능 발전으로 결정 권한이 인간 → 인공지능으로 이동

– 인간은 승인만 수행하는 HITL 착각 문제 발생

– 실제 구조는 HOTL 형태로 인간 통제 약화

– 기업은 AI 거버넌스 재설계 필요성 제기

 

■ 기사 주요 내용 정리

◎ 핵심 개념

○ HITL vs HOTL

– HITL(Human-in-the-Loop): 인간이 결정 과정에 개입

– HOTL(Human-on-the-Loop): 인공지능 결정 후 인간이 형식적 승인

→ 실제는 HOTL 구조 확산

 

◎ 문제 발생 원인

– 인공지능이 결정 지원 → 자율 결정으로 진화

– 인간은 점점 인공지능 결과를 검증하지 않고 신뢰

– 승인 절차가 형식적 요식행위로 전락

→ 인간 통제력 약화

HITL vs HOTL

◎ 주요 리스크

– 인공지능 결정 과정 검증 불가능성

– 결과에 대한 이의 제기 및 중단 권한 불명확

– 최종 책임 주체 불명확

→ AI 거버넌스 공백 발생

 

◎ 기업 영향

– 인공지능 활용 확대와 함께 통제 구조 취약성 증가

– 조직 내 결정 책임 구조 모호화

→ 리스크 관리 어려움 증가

 

◎ 대응 방안 (가트너 제안)

○ 거버넌스 재설계

– 중단 권한, 이의 제기 권한 명확화

– 책임 주체 정의 및 기록 체계 구축

→ 결정 통제

 

○ 인간 역할 재정의

– 인간을 단순 승인자가 아닌 최종 판단자 역할 유지

– AI 통찰 활용 + 인간 책임 구조 설계

→ 인간 중심 인공지능 체계 확보

 

○ 운영 체계 개선

– 인공지능 결정 과정 검토·책임 기록 체계화

– 필요 시 인공지능 결정 중단·수정 프로세스 마련

– 인간 전문가의 판단 능력 유지 점검

→ 실질적 인간 개입 보장

 

◎ 종합 의미

– 인공지능 발전으로 결정 구조 근본 변화

– 형식적 인간 개입이 아닌 실질적 통제 필요

– AI 거버넌스가 기업 경쟁력 핵심 요소로 부상

→ 인간 중심 설계 중요성 확대

---

[단독] '공공AI 신속개발' 민간중심 정부조직 만든다

한국판 GDS

정부가 AI 시대에 맞는 공공 서비스 개발 전담조직 신설을 추진한다. 민간 전문가 중심으로 AX(AI 전환)를 가속화하려는 전략이다.

 

■ 기사 핵심 요약

– 정부, 국민 AI서비스 추진 TF 신설 추진

– 영국 GDS 모델 벤치마킹한 개발 조직

– 민간 전문가 최대 100명 채용 계획

– 기존 행정 절차 한계 극복 위한 신속 개발 체계 구축

 

■ 기사 주요 내용 정리

◎ 조직 신설 배경

○ 기존 문제

– 공공 SW 사업 타당성 조사·ISP 등 2~3년 소요

– AI 기술 발전 속도 대비 행정 절차 지연

→ 신속한 AI 서비스 개발 구조 필요

국민 AI 서비스 추진 TF

○ 정책 방향

– 공공 AX 가속화를 위한 전담 조직 필요성 대두

– 대통령, 즉시 인공지능 도입 및 행정 혁신 요구

→ 실행 중심 조직 신설 추진

 

◎ TF 조직 개요

○ 조직 구조

– 명칭: 국민 AI서비스 추진 TF(가칭)

– 과기정통부 내 우선 발족

– 향후 범정부 조직 확대 지향

→ 단계적 조직 확대 전략

○ 인력 구성

– 민간 전문가 중심 조직

– 단장: 1급 별정직 공무원 임명

– 최대 100명 규모 채용 계획

→ 민간 기술 역량 적극 활용

 

◎ 역할 및 기능

– 공공 AI 서비스 기획~개발 원스톱 수행

– 공공 시스템 거버넌스 및 개발 총괄

– 신속 대응 필요한 AI 기반 서비스 개발 담당

→ 실행 중심 공공 디지털 혁신 조직

 

◎ 벤치마킹 모델

– 영국 GDS(Government Digital Service) 참고

– 디지털 서비스 기획·개발·운영 통합 조직

→ 글로벌 선진 모델 기반 설계

 

◎ 적용 범위

– 전체 공공 시스템 개발 담당 아님

– 신속 대응 필요 사업 중심 수행

· 과업/예산 변경 필요 사업

· 인공지능 기반 신규 서비스

→ 기존 발주 체계와 병행 운영

 

◎ 기대 효과

– 공공 서비스 개발 속도 대폭 향상

– 인공지능 기반 행정 효율성 강화

– 민간 기술 도입 통한 혁신 가속화

 

◎ 종합 의미

– 공공 시스템 개발 패러다임 계획 중심 → 실행 중심 전환

– 민간 중심 혁신 조직 모델 도입

– 국가 차원의 행정 경쟁력 강화

→ 공공 AX 본격 추진 신호탄

---

7월 기술사 학습 전략 설명회

IT 기술사 학습 설명회(7월 11일, 토) AI시대, 생존 전략! (무료, 온/오프라인 진행)

IT 기술사 학습 설명회(7월 11일, 토) AI시대, 생존 전략! (무료, 온/오프라인 진행)

 

기술사 합격 후기 

20개월의 반복이 만든 132회 윤정아PE

장수생 탈출! 멘토링을 믿은 결과! 137회 최현종PE

웃음 뒤에 숨은 집념! 137회 강준영 PE

'1점'차 극복 전략, 135회 김지현 PE

 

최근 IT 컬럼 

엔트로픽 '미토스' 보안 패러다임의 변화! AI가 취약점 탐지부터 공격까지?

TurboQuant 분석: 구글이 LLM 메모리 병목을 해결하는 혁신적 방법!

 

IT 기술사 준비 방법

#1 기술사 학습 준비 방법(준비 단계,동기부여,개인 여건,합격후기,학원선정 등)