[블록체인투데이 정주필 기자] AI 기술의 비약적인 발전 속에서 가장 큰 걸림돌로 꼽히는 ‘환각(Hallucination)’ 문제를 기술적으로 해결한 플랫폼이 등장해 주목된다.
인공지능이 실제 데이터에 기반하지 않은 허위 정보를 생성하는 ‘환각’ 현상은 최근 글로벌 IT 업계에서도 신뢰성 확보를 위한 핵심 과제로 지목되고 있는 가운데, 제시아(JECIA) 플랫폼이 이를 구조적으로 차단하는 혁신 기술 아키텍처를 선보였다.
제시아 플랫폼은 24일, AI 환각 문제에 대응하기 위한 ‘AI 신뢰 혁신 아키텍처’를 공식 발표하며, 이를 기반으로 탄소 감축 데이터 검증 시스템을 성공적으로 구축한 실증 사례도 함께 공개했다.
제시아의 기술 아키텍처는 ▲TEE(신뢰 실행 환경) ▲ZKP(영지식증명) ▲EIP7911(이더리움 개선안 7911) 등 세 가지 첨단 기술을 융합한 것이 핵심이다.
먼저 TEE(Trusted Execution Environment)는 민감한 데이터를 일반 영역과 완전히 분리된 하드웨어 보안 환경에서 처리함으로써 외부 해킹 및 위변조로부터 AI 연산 알고리즘을 보호한다.
이어 ZKP(Zero-Knowledge Proof)는 AI가 도출한 결과의 타당성을 원본 데이터를 공개하지 않고도 수학적으로 검증할 수 있는 고도 암호 기술이다. 이를 통해 AI가 허위 정보를 생성할 수 없도록 설계됐다.
또한 EIP7911은 이더리움 블록체인 상의 스마트컨트랙트 표준 프로토콜로, AI가 학습한 패턴 기반의 데이터 판단을 자동으로 검증·실행하게 해 투명성과 신뢰성을 동시에 확보했다.
제시아 플랫폼은 이러한 기술 구조를 적용한 탄소 감축 분석 시스템 ‘Climo AI’를 구축, 실제 운영에 나섰다.
Climo AI는 실시간 탄소 배출 데이터를 수집·분석한 뒤, 기준 충족 시 자동으로 탄소 크레딧을 발행하며, 이를 블록체인에 기록해 전 과정의 투명성과 추적성을 강화했다.
기존 AI 기반 환경분석 시스템의 신뢰 문제를 극복했다는 점에서 업계의 높은 관심을 받고 있다.
제시아는 향후 ▲금융 ▲헬스케어 ▲공공행정 ▲콘텐츠 산업 ▲공급망 등 복합적인 조건 판단이 필요한 다양한 산업 분야로 기술 확산을 준비하고 있다.
특히 ZKP 연산 성능을 고도화하여, 대용량·복합 데이터를 처리할 수 있는 인프라 기술 개발에도 속도를 낼 방침이다.
제시아 플랫폼 관계자는 “AI의 환각 문제는 신뢰성 높은 AI 기술 구현의 본질적 과제”라며 “이번 신뢰 아키텍처는 실제 데이터를 기반으로 한 자동화된 의사결정과 실행이 가능해 산업 전반에 강력한 파급력을 지닐 것”이라고 밝혔다.
한편 제시아 플랫폼은 이번 고신뢰 AI 기술을 기반으로, 글로벌 시장에서 디지털 신뢰 인프라의 선도 기업으로 도약하겠다는 포부도 내비쳤다.
AI의 환각 문제를 넘어선 ‘진짜 데이터 기반의 실행력’을 확보한 기술이 얼마나 빠르게 산업계에 확산될지 주목된다.
info@blockchaintoday.co.kr