메뉴
BL
MIT Tech Review 18일 전

클로드의 내부 작동 방식과 오픈AI의 슈퍼 앱

IMP
8/10
핵심 요약

AI 기업 Anthropic이 'J-space'라는 숨겨진 개념 공간을 발견하여 대형 언어 모델(LLM)이 답변을 생성하기 전 내부적으로 어떻게 추론하는지 처음으로 규명했습니다. 또한 OpenAI가 챗봇, 코딩 도구, 새로운 모델을 하나로 묶은 올인원 '슈퍼 앱'을 공개하며 업무 자동화를 본격화하고, SK하이닉스가 미국에서 대규모 상장에 성공하는 등 AI 산업의 핵심 기술 및 비즈니스 동향이 빠르게 전개되고 있습니다.

번역된 본문

오늘자 'The Download'입니다. 이 호는 기술 세계에서 일어나는 일들을 매일 전해주는 평일 발행 뉴스레터입니다.

Anthropic, 클로드가 개념을 고민하는 숨겨진 공간을 발견하다 AI 기업 Anthropic은 대형 언어 모델(LLM)이 질문에 답하거나 작업을 수행할 때 내부적으로 실제로 어떤 일이 일어나는지에 대해 지금까지 중 가장 명확하게 관찰했습니다. 연구진이 발견한 내용은 평범한 것부터 소름 돋는 것까지 다양합니다. 이 회사의 연구원들은 '야코비안 렌즈(Jacobian lens, 또는 J-lens)'라는 도구를 구축하여 자사의 핵심 LLM인 클로드(Claude) 내부에 숨겨진 영역인 'J-스페이스(J-space)'를 발견했습니다. 이 J-스페이스에는 모델이 처리 중인 응답과 관련된 단어들이 포함되어 있지만, 최종적으로는 출력되지 않을 수도 있는 단어들입니다. 만약 클로드가 사람이라면 (물론 사람은 아니지만), 이 숨겨진 단어들이 실제로 말을 하기 전에 머릿속에 무엇이 떠오르는지를 보여준다고 할 수 있습니다. 연구진이 발견한 내용에 대한 전체 기사를 읽어보세요. —윌 더글러스 헤븐(Will Douglas Heaven)

오늘의 필독 뉴스 오늘 날 기술에 관한 가장 재미있고, 중요하고, 무서우며, 흥미로운 이야기를 찾기 위해 인터넷을 샅샅이 뒤졌습니다.

  1. OpenAI가 기다려왔던 '슈퍼 앱'을 공개했다 챗봇, 코딩 도구, 새로운 모델을 하나로 결합한 형태입니다. (Reuters $)
  • 당신의 업무를 대신해주고 함께 수행하도록 설계되었습니다. (Ars Technica)
  • OpenAI의 GPT 5.6 모델이 발표된 것과 같은 날에 출시되었습니다. (NYT $)
  • 또한 완전히 자동화된 연구원(AI)도 개발 중입니다. (MIT Technology Review)
  1. 휴머노이드 로봇이 살아있는 동물에게 원격 수술을 수행했다 세계 최초로 돼지의 담낭을 제거하는 데 성공했습니다. (Ars Technica)
  • 휴머노이드 로봇 뒤에 숨겨진 인간의 노동에 대한 이야기. (MIT Technology Review)
  1. SK하이닉스가 외국 기업으로서는 미국에서 가장 큰 규모의 상장을 달성했다 한국의 반도체 거인은 265억 달러(약 35조 원)를 조달했습니다. (CNN)
  • AI 데이터 센터에 대한 수요로 인해 이익이 급증했습니다. (Guardian)
  • 하지만 이 대규모 주식 매각은 시장이 과열되었다는 징후일 수 있습니다. (FT $)
  • 한국에서 가장 인기 있는 총각은 반도체 종사자들입니다. (MIT Technology Review)
  1. 텐센트가 메타의 20억 달러 규모 마누스(Manus) 인수를 해제하는 거래를 주도하고 있다 텐센트는 이 중국 AI 스타트업의 최대 주주가 되기 위한 협상 중에 있습니다. (FT $)
  • 텐센트가 20억 달러 이상에 마누스를 인수할 것이라고 보도되었습니다. (Reuters $)
  • 베이징 당국이 메타에게 인수를 철회하라고 명령했습니다. (Bloomberg $)
  1. 사망 후 소생된 인간 망막이 10시간 후에 빛에 반응했다 시력을 회복하는 안구 이식을 향한 큰 진전입니다. (New Scientist $)
  • 죽은 안구를 소생시키는 새로운 장치도 마찬가지입니다. (MIT Technology Review)
  1. Meta가 AI 접근에 대한 비용을 청구하기 시작했다 새로운 버전의 뮤즈 스파크(Muse Spark)에는 개발자를 위한 유료 모델이 있습니다. (Quartz)
  • Meta는 또한 9월부터 AI 반도체 생산을 시작할 계획입니다. (Reuters $)
  1. OpenAI와 구글이 제재받은 중국 기업 그룹에 AI 모델을 판매했다 알리바바, 바이두, 텐센트의 싱가포르 법인을 통해 이루어졌습니다. (FT $)

  2. 한 딸이 아버지의 AI '데스 봇(죽은 자를 모방한 AI)'을 테스트했다 이 기술은 위로와 불안함을 동시에 제공했습니다. (The New Yorker $)

  3. 천문학자가 외계 생명체 탐사에 더 많은 통계가 필요하다고 말한다 그는 추측을 수학적 프레임워크로 대체하고 싶어 합니다. (Quanta)

  4. 포켓몬 고 플레이어들이 타임스 스퀘어를 거대한 전쟁터로 만들었다 1,500명 이상의 팬들이 마침내 2016년 게임 출시 당시의 약속을 이루어냈습니다. (Wired $)

  • 포켓몬 고는 또한 세계 모델을 훈련하는 데 사용되고 있습니다. (MIT Technology Review)

오늘의 명언 "우리가 AI에 대해 이야기할 때, 우리는 그 과대광고를 좋아하고 흥분합니다. 하지만 이 젠장할 것들은 실제로는 절대 실현되지 않죠." — 하버드 대학교 공과대학 비제이 야나파 레디(Vijay Janapa Reddi) 교수가 AI의 웅장한 계획들에 대해 회의적인 이유를 와이어드(Wired)에 설명하며.

한 가지 더: AI의 혁신에 비둘기에게 감사해야 하는 이유 1943년, 심리학자 B.F. 스키너는 폭탄을 더 정밀하게 만들기 위한 비밀 정부 프로젝트를 이끌었습니다. 그의 아이디어는 비둘기가 탄두 내부의 화면에 있는 표적을 쪼아 미사일을 유도하도록 가르치는 것이었습니다. 그들을 훈련시키기 위해 스키너는 새들이 올바른 결정을 내렸을 때 먹이로 보상하며 시행착오를 통해 행동을 형성했습니다. 놀랍지 않게도 군대는 스키너의 가미카제 비둘기를 실제로 배치하지 않았습니다. 그러나 그의 실험은 강화 학습이라는 개념을 증명하게 됩니다.

원문 보기
원문 보기 (영어)
This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. Anthropic found a hidden space where Claude puzzles over concepts The AI firm Anthropic has got the clearest glimpse yet at what’s really going on inside large language models as they answer questions or carry out tasks. What they found ranges from the mundane to the unnerving. Researchers at the company built a tool called the Jacobian lens (or J-lens) and used it to uncover a hidden area, which they named the J-space, inside its flagship LLM, Claude. The J-space contains words related to the response a model is working on but may not ultimately produce. If Claude were a person (which it is not), you might say these hidden words reveal what’s on its mind before it actually speaks. Read the full story on what they found. —Will Douglas Heaven The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 OpenAI has unveiled its long-awaited "super app" ChatGPT Work blends its chatbot, coding tool, and new models. ( Reuters $) + It’s designed to do your work for you and with you. ( Ars Technica ) + And arrived the same day as OpenAI’s GPT 5.6 models. ( NYT $) + It’s also developing a fully automated researcher. ( MIT Technology Review ) 2 Humanoids have performed teleoperated surgery on living animals In the world-first, they removed gallbladders from pigs. ( Ars Technica ) + The human work behind humanoids is hidden. ( MIT Technology Review ) 3 SK Hynix has landed the largest US listing by a foreign company The South Korean chip giant raised $26.5 billion. ( CNN ) + Demand for AI data centres has led its profits to skyrocket. ( Guardian ) + But its jumbo share sale may be a sign of overheated times. ( FT $) + South Korea’s hottest bachelors are chip workers. ( MIT Technology Review ) 4 Tencent is leading a deal to unwind Meta's $2 billion Manus acquisition It’s in talks to become the Chinese AI startup’s largest shareholder. ( FT $) + Tencent will reportedly buy Manus for no less ​than $2 billion. ( Reuters $) + Beijing had ordered Meta to unwind the acquisition. ( Bloomberg $) 5 Resuscitated human retinas responded to light 10 hours after death It’s a big step towards eye transplants that restore vision. ( New Scientist $) + As is a new device that revives dead eyeballs. ( MIT Technology Review ) 6 Meta has started charging for AI access A new version of Muse Spark has a paid tier for developers. ( Quartz ) + Meta also plans to start producing an AI chip in September. ( Reuters $) 7 OpenAI and Google have sold AI models to blacklisted China groups Via Singapore-based subsidiaries of Alibaba, Baidu and Tencent. ( FT $) 8 A daughter tested an AI “death bot” of her father The technology provided both comfort and unease. ( New Yorker $) 9 An astronomer says the hunt for alien life needs more statistics He wants to replace speculation with mathematical frameworks. ( Quanta ) 10 Pokémon Go players turned Times Square into a giant battlefield More than 1,500 fans finally fulfilled the game’s 2016 launch promise. ( Wired $) + Pokémon Go is also training world models. ( MIT Technology Review ) Quote of the day “When we’re talking about AI, we love the hype, we get excited about it. The damn thing never actually lands in practice.” —Vijay Janapa Reddi, an engineering professor at Harvard University, tells Wired why he’s skeptical about grand plans for AI. One More Thing Why we should thank pigeons for our AI breakthroughs In 1943, psychologist B.F. Skinner led a secret government project to make bombs more precise. His idea: teach pigeons to guide missiles by pecking at targets on a screen inside a warhead. To train them, Skinner rewarded the birds with food when they made the right decisions, using trial and error to shape their behavior. Unsurprisingly, the military never deployed Skinner’s kamikaze pigeons. Yet his experiments convinced him that pigeons were “an extremely reliable instrument” for studying learning. Decades later, those same principles would help power reinforcement learning, the technology behind some of today’s most advanced AI systems. Discover how pigeons inspired one of AI’s most powerful techniques . —Ben Crair We can still have nice things A place for comfort, fun, and distraction to brighten up your day. (Got any ideas? Drop me a line .) + Here’s a splendid selection of this year’s NSW architecture award winners. + Photographers have captured the Strawberry Moon’s golden glow in stunning detail. + Idiocracy is the film that best exemplifies the “American experience,” according to a new poll. Look back at the prescient comedy with this Screen Junkies trailer . + Get ready for the weekend with this psychedelic house journey from Jamie xx b2b Caribou. Deep Dive The Download The Download: the future of chipmaking and Anthropic’s government clash Plus: Meta is pausing an AI training program that tracks workers’ keystrokes. By Thomas Macaulay archive page The Download: AI hacking beyond Mythos, and chatbots’ impact on our brains Plus: Anthropic has called for a global slowdown in AI development. By Thomas Macaulay archive page The Download: a reality check for geoengineering and the science of interoception Plus: SpaceX is now valued higher than Amazon. By Thomas Macaulay archive page The Download: keeping up with AI, and the future of IVF Plus: NASA unveiled plans for three uncrewed missions to the Moon this year. By Thomas Macaulay archive page Stay connected Illustration by Rose Wong Get the latest updates from MIT Technology Review Discover special offers, top stories, upcoming events, and more. Enter your email Privacy Policy Thank you for submitting your email! Explore more newsletters It looks like something went wrong. We’re having trouble saving your preferences. Try refreshing this page and updating them one more time. If you continue to get this message, reach out to us at customer-service@technologyreview.com with a list of newsletters you’d like to receive.