데이터브릭스 CTO "AGI는 이미 왔다, 인간 기준 적용은 위험"
데이터브릭스(DataBricks) 공동 창업자 마테이 자하리아(Matei Zaharia)가 컴퓨팅 분야의 권위 있는 ACM 상을 수상했습니다. 그는 인터뷰에서 AGI(범용 인공지능)가 이미 도래했으며, AI를 인간과 동일한 기준으로 평가하거나 신뢰를 부여하는 행태가 심각한 보안 위협을 초래할 수 있다고 경고했습니다. 또한 그는 AI가 가진 강점에 집중하여 정보 분석 및 시뮬레이션 기반의 연구를 자동화하는 미래를 기대하고 있습니다.
데이터브릭스(DataBricks)의 공동 창업자이자 CTO인 마테이 자하리아(Matei Zaharia)는 자신이 2026년 ACM 컴퓨팅 상(ACM Prize in Computing) 수상자라는 사실을 알리는 이메일을 하마터면 놓칠 뻔했습니다. "네, 정말 깜짝 놀랐어요." 그가 TechCrunch와의 인터뷰에서 밝혔습니다.
2009년, 자하리아가 UC 버클리에서 저명한 이온 스토이카(Ion Stoica) 교수의 지도 아래 박사 학위를 위해 개발한 기술은 데이터브릭스라는 회사로 출범했습니다. 자하리아는 느리고 무거웠던 빅데이터 프로젝트의 결과 처리 속도를 획기적으로 높이는 방법을 고안해 냈고, 이를 '스파크(Spark)'라는 오픈소스 프로젝트로 공개했습니다. 당시 빅데이터는 지금의 AI와 같은 위치였으며, 스파크는 업계에 엄청난 혁신을 불러일으켰습니다. 불과 28세의 나이에 자하리아는 테크 업계의 스타가 되었습니다.
그 이후 그는 데이터브릭스의 엔지니어링을 이끌며, 이 회사를 클라우드 스토리지 거대 기업으로, 그리고 현재는 AI 및 AI 에이전트를 위한 데이터 기반 기업으로 성장시켰습니다. 이 과정에서 회사는 200억 달러 이상의 자금을 조달하여 1,340억 달러의 기업 가치를 달성했으며, 54억 달러의 매출을 올렸습니다. 이른바 실리콘밸리의 성공 신화인 셈입니다.
수요일, 미국컴퓨터학회(ACM, Association for Computing Machinery)는 그의 공로를 인정하여 이 상을 수여했습니다. 이 상은 25만 달러의 상금이 따르며, 그는 이 금액을 아직 정해지지 않은 자선 단체에 기부할 예정입니다.
CTO 업무 외에도 UC 버클리의 부교수로 재직 중인 자하리아는 과거가 아닌 미래를 내다보고 있습니다. 실리콘밸리의 다른 모든 사람들과 마찬가지로, 그가 보는 미래도 AI로 가득 차 있습니다.
"AGI는 이미 왔습니다. 다만 우리가 인정하는 형태로 존재하지 않을 뿐입니다." 그가 TechCrunch에 말했습니다. "더 중요한 점은 이러한 AI 모델에 인간의 기준을 적용하려는 시도를 멈춰야 한다는 것입니다."
예를 들어, 변호사가 되기 위해 변호사 시험에 합격하려면 방대한 지식을 습득하고 통합해야 합니다. 하지만 AI는 방대한 양의 사실을 쉽게 흡수할 수 있습니다. AI가 지식 질문에 올바르게 대답한다고 해서 그것이 일반적인 지능이나 인간과 같은 이해 능력을 갖췄다는 것을 의미하지는 않습니다.
AI를 마치 인간처럼 취급하려는 이러한 경향은 매우 부정적인 영향을 미칠 수 있습니다. 그는 인기 있는 AI 에이전트인 '오픈클로(OpenClaw)'를 예로 듭니다. "한편으로는 정말 멋집니다. 많은 일을 자동으로 해주거든요." 그가 말했습니다. 하지만 이는 또한 "보안의 악몽"이 될 수 있습니다. 왜냐하면 비밀번호와 같은 민감한 정보를 맡길 수 있는 인간 비서처럼 행동하도록 설계되었기 때문입니다. 이는 해킹의 위험이나, 브라우저에 로그인된 상태를 이용해 에이전트가 사용자의 은행 계좌에서 허가되지 않은 돈을 지출하는 위험으로 이어질 수 있습니다. "네, 거기에 있는 건 작은 인간이 아닙니다." 그가 강조했습니다.
교수이자 제품 엔지니어로서 자하리아는 생물학 실험부터 데이터 편집에 이르기까지 모든 연구를 자동화하는 AI의 능력에 가장 큰 기대를 품고 있습니다. '바이브 코딩(Vibe coding)'이 프로토타이핑과 프로그래밍을 누구나 쉽게 접근할 수 있게 만든 것처럼, 그는 환각 현상이 없고 정확한 AI 기반 연구가 언젠가 대중화될 것이라고 생각합니다.
"애플리케이션을 구축해야 하는 사람은 많지 않지만, 정보를 이해해야 하는 사람은 정말 많습니다." 그가 말했습니다.
궁극적으로 우리는 AI가 자신의 강점을 십분 발휘하도록 만들 것입니다. 자동차에서 나는 모든 소음의 의미를 파악해 주거나, 텍스트와 이미지를 넘어 라디오파와 마이크로파까지 스캔하거나, 아니면 지금 그의 학생들이 하고 있는 것처럼 분자 수준의 변화를 시뮬레이션하고 그 효과를 예측하는 식입니다.
"제가 가장 기대하는 부분은 '검색(Search)'을 위한, 더 정확히 말하면 '연구(Research)'를 위한 AI입니다."