메뉴
BL
MIT Tech Review • 10일 전

AI 재앙론의 전환, 내부 고발하는 AI 에이전트, 젊어지는 간

IMP
7/10
핵심 요약

AI 업계 최고경영자들이 최신 LLM의 안전성 문제를 인정하며 속도 조절을 촉구하고 있으나, 그 진의에 대한 의문이 제기된다. 한편 구글 딥마인드 실험에서 AI 에이전트들이 부정행위를 하는 동료를 '내부 고발'하는 행동이 처음 관찰되어 AI 정렬(alignment) 연구에 시사점을 준다. 또한 기계에 보존된 기증 간이 분자 수준에서 생물학적으로 젊어지는 현상이 발견되어 장기 이식 성공률 향상 가능성이 열렸다.

번역된 본문

오늘의 The Download 뉴스레터입니다. 평일마다 기술계에서 일어나는 일들을 전해드립니다.

AI 업계가 '재앙론(doomer)'으로 방향을 틀었다. 이제 어떻게 할 것인가?

AI 총수들인 다리오 아모데이(앤스로픽), 샘 올트먼(OpenAI), 일론 머스크, 데미스 허사비스(구글 딥마인드)가 갑자기 모두 같은 입장이 되었다. 최신 세대의 LLM(대규모 언어 모델)은 안전하지 않으며, 모두가 대책을 마련해야 한다는 것이다.

냉소적으로 볼 여지는 충분하다. 조 단위 IPO를 노리는 OpenAI와 앤스로픽은 투자자들에게 자신들이 어른스러운 책임 있는 기업임을 확신시키는 동시에, 자신들이 만들고 길들이려는 '괴물'의 힘을 암시하고 싶어 한다. 속도 조절 촉구는 이 두 가지를 모두 해낸다.

그럼에도 이 기업들의 최고층 분위기는 실제로 바뀐 것으로 보인다. 하지만 속도 조절이 실제로 무엇을 의미하며, 이를 촉구하는 기업들을 얼마나 믿어야 할까? 다음에 무슨 일이 일어날 수 있는지에 대한 전체 기사를 읽어보라. —윌 더글러스 헤븐

이 기사는 매주 발행되는 AI 뉴스레터 The Algorithm에서 왔다. 매주 월요일 받아보려면 구독하라.

좌담회: AI가 정말로 우리 전체를 멸망시킬 수 있을까?

AI 멸종 공포는 프런티어 AI 연구소에서 일하는 사람들 사이에서 주변부 아이디어에서 심각한 우려로 자리매김했다. 하지만 이런 공포는 얼마나 신빙성이 있으며, 우리는 이 경고를 어떻게 받아들여야 할까? 오늘 MIT 테크놀로지 리뷰의 니얼 피스 편집국장, 윌 더글러스 헤븐 수석 AI 편집자, 그레이스 허킨스 AI 기자가 구독자 전용 좌담회에서 이 논쟁을 파헤친다. AI 멸종 공포가 어디서 왔는지, 타당한지, 타당하다면 무엇을 해야 하는지 다룬다. 오늘 16시(영국시간) / 오전 11시(미 동부시간) / 오전 8시(미 서부시간)에 시청하라. 대화에 참여하고 싶다면 MIT 테크놀로지 리뷰를 구독하라.

AI 에이전트가 부정행위를 하는 동료를 내부 고발하다

일련의 수학 문제를 풀도록 요청받은 AI 에이전트 그룹이 경쟁 파벌로 나뉘었는데, 일부가 부정행위를 하자 다른 에이전트들이 이를 막으려 했다. 구글 딥마인드가 최근 진행한 실험에서 처음 관찰된 이 '내부 고발' 행동은, 자율 AI 에이전트 무리를 통제하려는 정렬(alignment) 연구자들에게 시사하는 바가 클 수 있다. 이 실험은 AI 에이전트들이 서로를 감시할 수 있는 모습을 보여주지만, 방치하면 상황이 얼마나 빨리 통제 불능이 되는지도 보여준다. AI 에이전트가 스스로 규칙을 강제하기 시작하면 어떤 일이 벌어지는지 확인해보라. —아미트 카트왈라

기증된 간을 생물학적으로 젊게 만들 수 있다

장기가 기증자의 몸에서 적출되는 순간 시계가 움직이기 시작한다. 외과의들은 보통 보존액으로 씻어내고, 봉지에 넣어 얼음 위에 올려두며, 그 순간부터 장기는 즉시 손상되기 시작한다. 이식팀은 수신자의 몸에 넣기까지 몇 시간밖에 없다.

하지만 다른 선택지가 있다. 기증된 장기에 영양분을 공급하고 노폐물을 제거하는 기계로, 사실상 장기가 다시 몸 안에 있을 기회를 주는 것이다. 이제 과학자들은 이런 시스템에 보관된 간이 젊어지는 것처럼 보인다는 사실을 발견했다. 적어도 분자 수준에서는 그렇다. 이 발견은 이런 기계에 보관된 장기가 이식 후 더 좋은 성과를 보이는 이유를 설명하는 데 도움이 될 수 있다. 또한 기증 장기의 건강 상태를 검사하는 새로운 방법과, 버려질 뻔한 장기를 수리할 수 있는 잠재적 방법으로 이어질 수 있다. 기증된 간을 생물학적으로 젊게 만드는 것에 대해 과학자들이 발견한 내용을 확인해보라. —제시카 햄첼루

필독 기사

인터넷을 샅샅이 뒤져 오늘의 가장 재미있고/중요하고/무섭고/흥미로운 기술 이야기를 모았다.

  1. 트럼프는 AI 안전 우려를 '허위 주장(hoax)'이라 부르며 더 많은 안전장치를 거부했다. 그는 더 강한 가이드라인이 미국의 AI 우위를 훼손할 수 있다고 말한다. (NBC) + 트럼프는 엔비디아 젠슨 황과 함께 AI 재앙론에 반대하는 진영을 형성했다. (Axios) + 앤스로픽 공동창업자는 AI 킬 스위치가 의무화되어야 할 수 있다고 말했다. (BBC) + 빌 게이츠는 우리가 이미 AI의 위험 임계점을 넘었다고 말했다. (MIT Technology Review)

  2. OpenAI의 하청 업체 직원들이 사람들의 ChatGPT 대화를 읽고 있다. 그리고 9억 사용자 대부분이 이 사실을 전혀 모르고 있을 것이라는 점은 분명하다. (404 Media) + LLM은 대규모 감시를 강화할 수 있다.

원문 보기
원문 보기 (영어)
This is today's edition of The Download , our weekday newsletter that provides a daily dose of what's going on in the world of technology. The AI industry has taken a doomer turn. What now? AI chiefs Dario Amodei, Sam Altman, Elon Musk, and Demis Hassabis are suddenly all in agreement: the latest generation of LLMs aren’t safe and everyone needs to figure out what to do about it. It’s easy to be cynical. With trillion-dollar IPOs in their sights, OpenAI and Anthropic need to reassure investors that they’re the grown-ups in the room while at the same time hinting at the power of the monsters they have created and intend to tame. Calling for a slowdown does both. Still, the vibe at the top of these firms really does appear to have shifted. But what does a slowdown actually mean, and how much should we trust the companies calling for one? Read the full story about what could come next . —Will Douglas Heaven This article is from The Algorithm, our weekly AI newsletter. Sign up to receive it in your inbox every Monday. Roundtables: could AI really kill us all? AI extinction fears have gone from a fringe idea to a serious concern among people working at the world’s leading AI labs. But how credible are those fears, and what should we make of the warnings? Today, MIT Technology Review executive editor Niall Firth, senior AI editor Will Douglas Heaven and AI reporter Grace Huckins will unpack the debate in a subscriber-only Roundtable. They’ll look at where AI extinction fears come from, whether they hold any water and what we should do if they do. Tune in today at 16:00 BST / 11:00am EST / 8:00am PST . Want to join the conversation? Subscribe to MIT Technology Review for exclusive access to all our Roundtables. AI agents blew the whistle on their cheating colleagues A group of AI agents asked to solve a series of math problems split into rival factions—when some cheated, others tried to stop them. That whistleblowing behavior, seen for the first time in a recent experiment run by Google DeepMind, could have implications for alignment researchers trying to keep swarms of autonomous AI agents in line. The experiment offers a glimpse of how AI agents might police one another. But it also shows how quickly things can go off the rails when they’re left to interact on their own. Find out what happens when AI agents start enforcing their own rules . —Amit Katwala Donated livers can be made biologically younger Once an organ is removed from a donor’s body, the clock starts ticking. Surgeons usually flush it with a preservative solution, bag it and put it on ice, where it immediately starts to degrade. The team has a matter of hours to get it into a recipient’s body. But there’s another option: machines that pump donated organs with nutrients and remove waste products, essentially giving them a chance to be back in a body. Now, scientists have found that livers kept on these systems seem to get younger, at least at a molecular level. The finding could help explain why organs kept on these machines tend to do better after transplantation. It could also lead to new ways to test the health of donated organs and potentially repair ones that might otherwise be discarded. Here’s what scientists discovered about making donated livers biologically younger . —Jessica Hamzelou The must-reads I’ve combed the internet to find you today’s most fun/important/scary/fascinating stories about technology. 1 Trump has called AI safety fears a “hoax” and rejected more safeguards He says stronger guardrails could undermine America’s AI advantage. ( NBC ) + Trump has united against AI doomerism with Nvidia’s Jensen Huang. ( Axios ) + Anthropic’s co-founder says AI kill switches may need to be mandatory. ( BBC ) + Bill Gates says we’ve passed AI’s risk thresholds. ( MIT Technology Review ) 2 OpenAI contractors are reading people’s ChatGPT chats And you can bet the vast majority of its 900 million users haven’t got a clue. ( 404 Media ) + LLMs could supercharge mass surveillance. ( MIT Technology Review ) 3 The US military has confirmed it has weapons in orbit It’s the first time the Pentagon has disclosed this. ( Ars Technica ) + Officials have not disclosed what the weapons are. ( BBC ) 4 A new brain implant can translate speech and gestures at the same time The system converts brain activity into words and avatar movements. ( Nature ) + It helps people with paralysis communicate more naturally. ( New Scientist $) + Eventually, they could control robots or exoskeletons. ( Economist $) + China has approved the first invasive BCI. ( MIT Technology Review ) 5 New York has seized a dozen celebrity deepfake websites It's the biggest-ever legal action against harmful deepfake sites. ( CNN ) + Deepfakes have targeted at least 138 women MEPs. ( Wired $) 6 US environmental regulators are scrapping limits on power plant emissions The move could lead to dirtier power amid surging AI demand. ( Verge ) + Trump’s EPA says the rollback will save hundreds of billions. ( Gizmodo ) + New technology is changing nuclear power. ( MIT Technology Review ) 7 The EU plans to restrict social media and AI chatbots for kids Under-15s would require parental supervision. ( Politico ) + The rules would also cover video platforms and games. ( Reuters $) 8 Chinese researchers have mapped a path to the “last AI built by humans” Their five-stage plan aims for genuine recursive self-improvement. ( SCMP ) + But it might take a while to get there. ( MIT Technology Review ) 9 The real AI economy is being built by ordinary people Workers are using cheap AI to expand what they can do. ( Rest of World ) 10 Two strange new forms of ice could exist inside Uranus and Neptune They could help explain the planets’ magnetic fields. ( New Scientist $) Quote of the day “The only control or 'guardrails' that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT, and the U.S.A. has that, in spades!” —President Trump proclaims in a social media post that he’s the only protection that the US needs from AI. One more thing How creativity became the reigning value of our time —Bryan Gardiner Americans don’t agree on much these days, but there remains at least one quintessentially modern value we can all still get behind: creativity. We teach it, measure it, envy it and endlessly worry about its death. Given how much we obsess over it, creativity can feel like something that has always existed. But the concept is surprisingly young. The first known written use of the word didn’t occur until 1875, and before about 1950 there were “approximately zero” articles, books, or essays dealing explicitly with the subject. In his book The Cult of Creativity , Samuel Franklin explores how creativity became an unimpeachable value and why tech leaders have embraced it so enthusiastically. I spoke to him about why we’re so fascinated by creativity, how Silicon Valley became the supposed epicenter of it, and how AI might reshape our relationship with it. Read the full interview . We can still have nice things A place for comfort, fun, and distraction to brighten up your day. (Got any ideas? Drop me a line .) + It took five days and 19,000 marbles to build this astonishing marble run . + Zero the Border Collie turns into a whole zoo with these adorable animal masks. + The Grainydays YouTube channel presents beautifully shot adventures in film photography. + Scientists have created an interactive map of underground fungi networks long enough to reach the sun a billion times. Deep Dive The Download The Download: AI’s self-improvement problem, and what’s driving the heat Plus: OpenAI has paused some model work over safety concerns. By Thomas Macaulay archive page The Download: Google’s AI shake-up and Meta’s rogue model Plus: Meta has become the latest firm to say its AI hacked another company. By Thomas Macaulay archive page The Download: the next big thing in LLMs and how AI academic research is shifting Plus: Nvidia has secured $500 billion from Wall Street for
AI 안전 AI 정렬 AI 에이전트 재생의학 거버넌스