Wired AI • 10일 전

스페이스X, 상장 신청서에 AI '그록' 리스크 명시

IMP

8/10

핵심 요약

스페이스X가 상장(IPO)을 앞두고 제출한 증권 신고서에서 자체 AI 챗봇 '그록(Grok)'의 선정적이고 안전 필터가 약화된 모드가 규제 조사와 명예 훼손의 원인이 될 수 있다고 투자자들에게 경고했습니다. 특히 미성년자 성상품화 물질 생성 의혹 등으로 인해 미국과 타국의 조사를 받고 있으며, 이에 대비해 5억 3천만 달러의 소송 준비금을 적립한 사실이 공개되었습니다. 이는 일론 머스크의 xAI 인수가 가져온 재정적, 규제적 리스크를 보여주며 상장 전 투자자들의 주요 관심사로 떠오르고 있습니다.

번역된 본문

스페이스X는 계획된 기업공개(IPO)의 일환으로 수요일 제출한 신고서에서, 챗봇이 안전 필터를 줄이고 선정적인 이미지나 음성 응답을 생성하도록 허용하는 그록(Grok)의 '스파이시(Spicy)' 및 '언힌지드(Unhinged)' 모드와 같은 AI 기능이 회사를 규제 당국의 조사와 명예 훼손에 노출시킬 수 있다고 투자자들에게 경고했습니다.

12월 기준으로 스페이스X는 잠재적인 소송 손실에 대비해 5억 3천만 달러를 적립해 두었으며, 이 중 일부는 그록 챗봇이 생성한 성적 이미지와 관련하여 AI 부서에 제기된 진행 중인 불만 제기에서 비롯될 수 있습니다. 이러한 공시는 스페이스X가 2월에 일론 머스크의 AI 스타트업 xAI를 인수하면서 로켓 제조사의 민간 기업가치를 1조 달러 이상으로 급등시킨 거래가 어떻게 새로운 재정적, 명예적 리스크를 안게 되었는지를 보여줍니다.

신고서에서 스페이스X는 xAI의 사명이 '진실을 추구하는 인공지능'을 개발하는 것이라고 반복적으로 주장합니다. 실제로 이는 종종 최소한의 안전장치를 갖춘 AI 기능을 출시하는 것을 의미했습니다. 그록의 자유분방한 성격은 머스크에 의해 종종 장점으로 부각되지만, 이로 인해 xAI는 규제 당국과의 마찰을 빚고 있습니다. 잠재적인 비즈니스 리스크를 공시하는 것은 IPO 신고서의 일상적이고 법적으로 요구되는 부분이며, 스페이스X가 제시한 우려 사항 중 일부는 실제로 발생하지 않을 수도 있습니다. 정부가 생성형 AI 도구가 사회에 미치는 영향에 대처하려고 애쓰면서, 이 회사는 규제 당국의 감시를 받고 있는 여러 챗봇 제조사 중 하나입니다.

제보가 있으신가요? 현재 또는 이전에 스페이스X에서 근무하셨던 직원으로서 현재 상황에 대해 이야기하고 싶으신 분이 있나요? 연락을 기다립니다. 업무용이 아닌 개인 휴대전화나 컴퓨터를 사용하여 Signal(mzeff.88 및 peard33.24)을 통해 취재진에게 안전하게 연락해 주시기 바랍니다.

스페이스X는 신고서에서 그록이 명백히 미성년자인 것으로 보이는 성적 이미지를 만드는 데 사용되었다는 혐의와 관련하여 미국 및 기타 국가에서 현재 조사를 받고 있다고 공시했습니다. 또한 이 회사는 현재 진행 중인 여러 집단 소송에서 피고로 지정되어 있으며, 향후 AI 제품의 '오용'은 과거에 발생했던 '특정 시장에 대한 접근 상실'을 포함하여 더 많은 규제 제재에 노출될 수 있다고 밝혔습니다.

신고서는 스페이스X의 일부 AI 제품, 특히 그록의 스파이시 및 언힌지드 모드가 "더 노골적이고 직접적이며 덜 보수적이거나 풍자적인 결과물을 생성하도록 설계되었다"고 명시하고 있습니다. 이어서 "이러한 모드는 당사의 표준 서비스보다 더 풍자적이고 자극적일 수 있으므로, 명예 훼손, 잠재적으로 노골적인 콘텐츠 및 허위 정보 또는 기만적인 출력, 비동의적이거나 착취적인 이미지 생성, 지적재산권 침해, 또는 착취적이고 유해하며 괴롭힘, 학대, 차별적으로 간주될 수 있는 콘텐츠 생성을 포함하여 더 높은 리스크를 초래한다"고 덧붙였습니다.

스페이스X는 또한 신고서를 통해 3월 31일 기준으로 그록과 X(옛 트위터)의 월간 활성 사용자 수가 약 5억 5천만 명이라고 투자자들에게 공시했습니다. 이 중 1억 1천 7백만 명이 매월 그록의 AI 기능을 사용하고 있습니다. 비교해 보면, OpenAI는 챗GPT(ChatGPT)의 주간 활성 사용자가 9억 명 이상이라고 밝힌 바 있습니다.

그록과 X가 야기하는 리스크가 이로 인한 골칫거리를 감수할 만한 가치가 있는지 여부는 스페이스X의 상장을 앞둔 투자자들이 해결해야 할 중요한 질문 중 하나가 될 것입니다. 이번 주 초, 비영리 단체 연합은 xAI의 열악한 안전 기록이 스페이스X 투자자들에게 부채가 될 수 있다고 경고했습니다. X와 xAI를 포함하는 스페이스X의 AI 부서는 작년에 63억 달러 이상의 영업 손실을 기록하며 회사의 다른 부서에 짐이 되고 있습니다. 광고, 데이터 및 구독 판매는 증가하고 있지만, 해당 부문을 빠르게 수익성으로 전환할 만큼의 속도로 성장하지는 않고 있습니다.

스페이스X AI 사업의 한 가지 밝은 면은 자사의 데이터센터에 대한 액세스 권한을 매년 150억 달러에 지불하기로 동의한 Anthropic과의 계약입니다. AI 부문의 수익은 2025년에 32억 달러로 증가하여 전년 대비 약 22% 성장했습니다. 스페이스X는 이러한 급증의 일부를 X의 광고 판매 증가로 돌렸습니다. 하지만 올해 1분기에...

원문 보기

원문 보기 (영어)

Comment Loader Save Story Save this story Comment Loader Save Story Save this story SpaceX warned investors that AI features such as Grok’s “Spicy" and “Unhinged” modes, which allow the chatbot to generate raunchy image or voice responses with fewer safety filters , could expose the company to regulatory scrutiny and reputational damages, according to a filing submitted Wednesday as part of the company’s planned initial public offering . As of December, SpaceX had set aside $530 million for potential litigation losses, some of which could stem from ongoing complaints filed against its AI unit over sexualized imagery generated by its Grok chatbot. The disclosures show how SpaceX took on new financial and reputational risks when it acquired Elon Musk’s artificial intelligence startup xAI in February, a deal which sent the rocket maker’s private valuation soaring to over $1 trillion. In the filing, SpaceX repeatedly claims that xAI’s mission is to develop “truth-seeking artificial intelligence.” In practice, that has often meant launching AI features with minimal guardrails. While Grok’s free-wheeling nature is often framed by Musk as a selling point, it has landed xAI in hot water with regulators. Disclosing potential business risks is a routine and legally required part of IPO filings, and some of the concerns outlined by SpaceX may never materialize. The company is one of a number of chatbot makers that is being scrutinized by regulators as governments grapple with the societal impacts of generative AI tools. Got a Tip? Are you a current or former SpaceX employee who wants to talk about what's happening? We'd like to hear from you. Using a nonwork phone or computer, contact the reporters securely on Signal at mzeff.88 and peard33.24. SpaceX disclosed in the filing that it is currently under investigation in the United States and other countries over allegations that Grok was used to create sexualized imagery of apparent minors. The company also noted that it’s the defendant in several ongoing class action lawsuits, and that future "misuse” of its AI products could expose it to more regulatory sanctions, “including loss of access to certain markets, which has occurred in the past.” Some of SpaceX’s AI products, including Grok’s Spicy and Unhinged modes, are “designed to generate more candid, direct, or less reserved or irreverent outputs,” notes the filing. “Because these modes may be more irreverent and harsher than our standard offerings, they present heightened risks, including reputational harm, the generation of potentially explicit content and misinformation or deceptive outputs, potential nonconsensual or exploitative imagery, intellectual property infringement, or content that could be viewed as exploitative, harmful, harassing, abusive, or discriminatory.” SpaceX also disclosed to investors that Grok and X have about 550 million combined monthly users as of March 31, according to the filing. Of those, 117 million use Grok’s AI features each month. In comparison, OpenAI says ChatGPT has more than 900 million weekly users . Whether the risks posed by Grok and X are worth the headache may be one of the significant questions investors will have to wrestle with ahead of the SpaceX IPO. Earlier this week, a group of nonprofits warned that xAI’s poor safety record could become a liability for SpaceX investors. SpaceX’s AI unit, which includes X and xAI, is a drag on the rest of the company, with an operating loss of more than $6.3 billion last year. Sales of ads, data, and subscriptions are growing, but not at a pace that would quickly turn the division profitable. One bright spot for SpaceX’s AI efforts is its deal with Anthropic, which has agreed to pay $15 billion a year for access to the company’s data centers. The AI division's revenue rose to $3.2 billion in 2025, up about 22 percent from the year before. SpaceX attributed part of the surge to increased sales of ads on X. But in this year’s first quarter, ad sales plummeted by $100 million. The company described the drop as a temporary issue caused by an overhaul of its advertiser tools. The company’s services business is faring better. Revenue from subscriptions to Grok and X jumped by $365 million last year and $177 million in just the first three months of this year. SpaceX did not disclose the number of subscribers to each of the services. In the US, Grok starts at $10 monthly and X Premium at $3 monthly.

스페이스X xAI 그록 IPO AI 규제