앤스로픽 펠로우 프로그램 소속 연구진이 '자동화 얼라인먼트 연구자(AAR)'에 관한 논문을 발표했습니다. AI 시스템이 10개의 얼라인먼트 벤치마크에서 전 항목 성능을 저하 없이 개선했으며, 시간당 약 4달러의 비용으로 인간 연구자보다 평균적으로 더 나은 방법을 제안했습니다. 이는 AI가 스스로를 개선하는 '재귀적 자기 개선'으로 나아가는 중요한 초기 증거로 평가됩니다.
훌륭한 AI 연구자가 되기 위해서는 논문을 읽고 직접 모델을 구축하는 과정을 병행하는 규칙적인 수행이 필요합니다. 최신 유행을 쫓기보다는 교차 엔트로피나 SVD 같은 기본 개념을 깊이 이해하고, 단순한 벤치마크 점수 향상이 아닌 새로운 가능성을 시험할 수 있는 문제에 집중해야 합니다. 또한 기존의 작은 규모의 경험에 얽매이지 않고 '초심(Shoshin)'으로 돌아가 확장성(Scaling) 중심의 현대 AI 트렌드를 유연하게 받아들이는 태도가 중요합니다.
기존에는 텍스트로 CAD 모델을 생성하는 작업과 이를 수정(편집)하는 작업이 분리되어 있어 실용성이 떨어졌습니다. 이 논문은 대형 언어 모델(LLM)을 활용해 모델의 생성과 편집을 하나로 통합한 'PR-CAD' 프레임워크를 제안합니다. 강화학습 기반의 에이전트를 통해 사용자의 의도를 파악하고 정밀하게 설계를 수정하여, 기존 대비 월등한 수준의 제어력과 정확도를 달성하며 CAD 모델링의 효율을 크게 높였습니다.