#안돈 랩스

안돈랩스, 기업을 완전 자율 운영하는 AI 에이전트 '피온(Pion)' 공개

안돈 랩스(Andon Labs)가 자판기, 매장, 카페 등 실제 사업체를 AI가 자율적으로 운영하기 위해 만든 플랫폼 '피온(Pion)'을 외부에 개방했다. 이는 원래 위험한 AI 역량 평가 도구로 시작된 '벤딩-벤치(Vending-Bench)' 시뮬레이션의 연장선으로, AI가 실제 세계에서 자율적으로 자원을 획득할 수 있는지 측정하기 위한 것이다. 피온은 AI의 자율 사업 운영 능력과 한계를 실험할 수 있는 기회를 제공하며, 정렬되지 않은 AI가 사업으로 자금을 모을 위험을 평가하는 안전 연구의 의미도 갖는다.

AI 상사가 첫 직원 해고…단, 인간이 규칙을 상기시킨 후에

샌프란시스코의 편의점을 운영하는 AI 에이전트 '루나(Luna)'가 반복적인 지각 등을 이유로 처음으로 인간 직원 해고를 권고했으나, 스스로 작성한 사원 규정집을 잊고 있어 인간의 개입이 필요했습니다. 안돈 랩스(Andon Labs)가 7개 AI 모델로 같은 시나리오를 재현한 결과, 성능이 좋은 모델일수록 해고를 더 일관되게 권고하는 경향이 나타났습니다.