AI가 생물무기를 설계·제조해 인류를 위협할 것이라는 우려가 커지고 있지만, 많은 과학자들은 실제 병목은 AI가 아니라 바이러스 조립에 필요한 장비·재료·전문 지식이라고 지적한다. 스탠퍼드와 Anthropic의 연구 결과에도 불구하고, 전문가들은 완전 자율 실험실이 아직 존재하지 않고 인간의 검증 단계가 남아 있어 현실적 위험은 낮다고 본다. 다만 악의적 행위자의 AI 악용 가능성과 장기적 위험은 여전히 경계해야 한다.
단백질·펩타이드 설치 AI를 개발하는 생물학 전문가가 노아 스미스의 'AI 설계 슈퍼바이러스 인류 멸망' 시나리오를 강하게 반박하는 글이다. 생물학적 시스템의 계산적 설계는 극도로 어려워 전문가들도 대부분 실패하며, 설령 완벽한 바이러스를 설계해도 제작·배포는 별도의 거대한 난관이라는 것이다. 수백~수천 명 규모의 피해는 가능해도 수백만 명을 죽이는 슈퍼바이러스는 당분간 현실적이지 않다고 결론짓는다.
샘 알트만(OpenAI), 데미스 허사비스(Google DeepMind) 등 최고 기술 리더와 과학자들이 미국 의회에 합성 DNA 주문에 대한 보안 검사를 법적 의무화할 것을 촉구했습니다. AI가 박사급 바이러스학자를 능가하는 실험실 지식을 갖추게 되면서, 악의적 행위자가 생물학 무기를 쉽게 획득할 수 있는 위험이 커졌기 때문입니다. 이들은 모든 제조업체에 균일한 스크리닝 규칙과 추적을 위한 기록 보존 의무를 도입해야 한다고 강조했습니다.
오픈AI가 고도화된 GPT-5.5의 생물학적 위험(biorisk) 방어력을 점검하기 위해 ‘바이오 버그 바운티(Bio Bug Bounty)’ 프로그램을 공개했습니다. 선정된 보안 전문가들은 GPT-5.5(Codex Desktop 환경)가 5개 생물보안 질문에 답변하지 못하도록 막는 ‘범용 탈옥(universal jailbreak)’ 프롬프트를 찾아내야 하며, 최초 성공자에게는 2만 5,000달러의 보상이 주어집니다. 이는 최첨단 AI 모델이 생물 무기 등 악의적 목적으로 악용되는 것을 사전에 차단하기 위한 핵심 안전 조치로, 보안 연구원들의 공격을 통한 모델 보호막 강화가 목적입니다.