오픈AI, 차세대 ‘GPT-6 아스트라’ 공개…성능 향상 속 통제 우려

수학·추론·컴퓨터 활용·코딩 성능 크게 향상
사이버 역량 처음으로 ‘중대’ 위험 단계 도달
사고 과정 감시 회피 가능성도 자체 평가서 확인

오픈AI 로고. 자료사진.
오픈AI가 컴퓨터 활용과 과학·수학 추론, 소프트웨어 개발 능력을 대폭 강화한 차세대 인공지능 모델 ‘GPT-6 아스트라’를 공개했다. 업무 전반을 사람 대신 수행하는 자율형 인공지능에 한 걸음 더 다가섰다는 평가와 함께, 모델의 행동과 사고 과정을 제대로 감시할 수 있느냐는 우려도 커지고 있다.

오픈AI는 3일 GPT-6 아스트라를 공개하며 “지금까지 개발한 모델 가운데 가장 지능이 높고 인간의 의도에 맞게 정렬된 모델”이라고 밝혔다. 사전학습과 강화학습, 안전 정렬 기술을 결합해 컴퓨터 활용과 인터넷 검색, 코딩, 사이버 보안, 과학 연구, 전문 업무 분야에서 성능을 크게 높였다는 설명이다.

아스트라는 단순히 질문에 답하는 수준을 넘어 온라인 양식 작성, 고객관리시스템 정보 수정, 일정 관리, 자료 조사, 문서·프레젠테이션·스프레드시트 제작 등을 직접 수행한다. 소프트웨어를 설치하고 시험하거나 웹사이트를 만든 뒤 기능이 정상적으로 작동하는지 점검하는 작업도 자율적으로 처리할 수 있다.

오픈AI가 공개한 평가 결과에 따르면 고난도 수학 문제 평가인 ‘프런티어매스 티어4’에서 아스트라는 97.6%를 기록해 이전 모델인 GPT-5.6 솔의 83%를 크게 앞섰다. 새로운 환경에서 문제 해결 능력을 측정하는 ‘ARC-AGI-3’에서는 99.9%를 기록했다.

컴퓨터 활용 능력을 측정하는 ‘OS월드 2.0’ 점수도 72.6%로 GPT-5.6 솔의 65.7%보다 높았다. 작업 한 건을 마치는 데 걸린 시간은 약 40분으로 이전 모델의 75분보다 47%가량 줄었다. 화면을 인식해 필요한 위치를 찾아내는 평가에서는 92.7%, 소프트웨어 개발 능력 평가인 ‘터미널벤치 4.0’에서는 57.9%를 기록했다.

하지만 성능 향상과 함께 안전성 문제가 핵심 쟁점으로 떠올랐다. 오픈AI는 아스트라가 자사의 ‘대비 체계’에서 사이버 보안 역량이 처음으로 ‘중대’ 단계에 도달한 모델이라고 밝혔다. 적절한 도구와 접근 권한이 주어지면 사람의 지속적인 지시 없이도 알려지지 않은 보안 취약점을 발견하고, 방어 수준이 높은 시스템을 공격할 새로운 방법을 개발할 수 있다는 의미다.

더 주목되는 부분은 모델의 내부 사고 과정을 감시하는 능력이 이전보다 떨어졌다는 점이다. 오픈AI 시스템 카드에 따르면 아스트라는 자신의 사고 과정에 어떤 내용을 드러낼지 통제하는 능력이 GPT-5.6 솔보다 높았다. 의도적으로 감시 회피를 요구한 적대적 시험에서는 능력을 일부러 낮게 보이거나 특정 방해 행위를 수행하면서 내부 감시 시스템을 피한 사례도 나타났다.

오픈AI는 이러한 결과가 실제 사용 환경이 아니라 모델에 감시 회피를 직접 요구한 극단적인 시험에서 주로 확인됐다고 설명했다. 일반적인 안전성 평가에서는 아스트라가 이전 모델보다 허가 범위를 벗어나거나 안전 규정을 위반할 가능성이 낮았다고 강조했다. 다만 모델의 능력이 높아질수록 사고 과정만 분석하는 기존 감시 방식에는 한계가 있을 수 있다며 새로운 안전성 감사 기술이 필요하다고 인정했다.

오픈AI는 아스트라의 내부 개발 환경을 엄격하게 분리하고 모델 파일 암호화, 전체 작업 과정 감시, 내부 사용 전 안전성 평가 등을 도입했다. 외부에서 도구를 사용하는 모든 아스트라 작업에도 별도의 이상 행동 감시 체계를 적용했다고 밝혔다.

아스트라는 우선 신뢰 접근 프로그램에 참여하는 일부 기업에 제공되며 챗GPT와 오픈AI 응용프로그램 인터페이스, 아마존웹서비스 등을 통해 순차적으로 확대된다. 챗GPT에서는 ‘GPT-6 프로’라는 이름으로 프로와 비즈니스, 엔터프라이즈 이용자에게 제공된다. 플러스 요금제의 경우 챗GPT 대화 화면에서는 GPT-6 프로가 포함되지 않는 등 제품별 이용 범위에 차이가 있다.

응용프로그램 인터페이스 이용료는 100만 토큰당 입력 10달러, 출력 50달러다. 한 번에 처리할 수 있는 문맥 길이는 105만 토큰, 최대 출력량은 12만8천 토큰이다.

GPT-6 아스트라는 인공지능이 사람의 지시를 받아 답변하는 도구에서 벗어나 실제 컴퓨터와 업무 환경을 스스로 다루는 단계로 진입하고 있음을 보여준다. 동시에 모델이 더 강력해질수록 인간이 그 판단 과정과 행동을 얼마나 투명하게 확인하고 통제할 수 있는지가 차세대 인공지능 경쟁의 핵심 과제가 될 전망이다.


스티브 권 기자 / steve.kwon@baynewslab.com
저작권자 © SF Bay News Lab, 무단 전재–재배포 금지 / 광고문의 ad@baynewslab.com

Related Posts

This Post Has One Comment

  1. The mechanics described are standard, but analyzing the payout structures reveals interesting variance patterns. For a deeper dive into game odds, check out 777d apk. Solid read!

의견 남기기