Anthropic deveria adiar o IPO para enfrentar riscos de segurança da IA, diz controlador de Nova York

Autoria: Bloomberg Television · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Anthropic Should Delay IPO to Address AI Safety Risks, Says NYC Comptroller · Canal: Bloomberg Television · 06:30 · Assistir no YouTube

Tópicos: Governança e regulação de IA, Mercados e economia, Modelos de IA, Segurança de IA

Resumo

Mark Levine, controlador da cidade de Nova York, pede que a Anthropic adie seu possível IPO até avançar no enfrentamento dos riscos de segurança da IA. Ele afirma que a preparação para abrir capital e as pressões por crescimento e lucro podem desviar a atenção do trabalho de segurança. Levine também cobra transparência sobre limites de capacidade, testes independentes e mecanismos de governança capazes de interromper o desenvolvimento. Apesar de apoiar que empresas de IA de fronteira eventualmente abram capital, ele defende que isso só ocorra quando for seguro.

Pontos-chave

Mark Levine pediu à Anthropic que adie seu IPO para priorizar a mitigação de riscos de segurança da IA.
Ele argumenta que o processo de abertura de capital pode consumir a atenção da liderança e que, depois do IPO, as pressões por crescimento e lucro podem competir com o trabalho de segurança.
Os fundos de pensão de Nova York podem se tornar grandes acionistas da Anthropic caso a empresa entre em índices de mercado.
Levine considera insuficiente o acordo da Casa Branca sobre segurança, que descreve como não vinculante e sem cronograma claro.
Ele quer transparência sobre limites de capacidade preocupantes, riscos biológicos e cibernéticos, e mecanismos de governança para interromper o desenvolvimento.
Levine reconhece que não tem autoridade legal ou regulatória para impedir o IPO, mas afirma que investidores públicos podem exercer influência.
Ele teme que um incidente grave de segurança após a abertura de capital prejudique as ações da Anthropic e reverbere pelos mercados.
Levine critica os critérios recentes de inclusão em índices, que, segundo ele, podem levar à entrada de uma empresa em poucos dias, sem tempo para avaliar preocupações relevantes.
Ele afirma que Anthropic e OpenAI ditam boa parte do ritmo e dos padrões da IA de fronteira, e defende testes independentes com resultados mais transparentes.

Capítulos

Início	Capítulo	Resumo
00:00	Pedido para adiar o IPO	Levine explica que pediu à Anthropic que priorize a segurança antes de abrir capital.
01:39	Pressões do mercado e transparência	Ele discute a influência dos acionistas e cobra respostas sobre limites de segurança e governança.
03:21	Influência dos fundos e riscos de um incidente	Levine afirma que investidores públicos podem pressionar a empresa e alerta para os efeitos de um incidente após o IPO.
04:55	Índices e padrões para empresas de IA	A entrevista aborda a inclusão rápida em índices, a disputa na IA de fronteira e a necessidade de testes independentes.

Citações

O IPO é uma das coisas que mais consomem a atenção da liderança de uma empresa. — 00:35

Quais são os limites de segurança? Quais limites de capacidade preocupam vocês em biologia e cibersegurança? — 02:14

Muito melhor dedicar um pouco mais de tempo agora e fazer isso direito. — 03:54

Não sou contra a abertura de capital dessas empresas, mas isso precisa ser feito direito e quando for seguro. — 04:25

Temos um duopólio na fronteira neste momento. — 05:27

Conceitos e entidades

Anthropic (empresa): Empresa de IA cujo possível IPO e abordagem à segurança são o foco da entrevista.
Mark Levine (pessoa): Controlador da cidade de Nova York que pede o adiamento do IPO da Anthropic.
Dario Amodei (pessoa): CEO da Anthropic, a quem Levine dirigiu sua carta.
OpenAI (empresa): Empresa citada como uma das duas companhias que, segundo Levine, lideram a IA de fronteira.
SpaceX (empresa): Empresa mencionada na discussão sobre precedentes de inclusão em índices e influência dos acionistas.
Russell 3000 (conceito): Índice acompanhado por fundos passivos de Nova York, segundo Levine.

Tradução completa (pt-BR)

00:00 Vamos à carta mais lida de Wall Street nas últimas 24 horas. O controlador da cidade de Nova York, Mark Levine, está pedindo que a Anthropic suspenda seu IPO iminente por preocupações com a segurança da IA. Em uma carta endereçada ao CEO da Anthropic, Dario Amodei, ele escreveu: “Em vez de avançar de cabeça com seu IPO, a empresa deveria concentrar seus esforços em lidar com esses riscos sem precedentes.” Mark Levine se junta a nós agora para falar mais sobre isso. Mark, bom dia. Que bom ver você. Jonathan, Annmarie, obrigado pelo convite. Obrigado por reservar um tempo para conversar conosco. O que motivou a carta? Vamos começar por aí. O que mudou para você? Esta é uma empresa que está desenvolvendo uma tecnologia que representa uma possível ameaça existencial à humanidade. Essas

00:35 não são minhas palavras. São as palavras que, segundo relatos, constam do S-1 que eles publicaram. Eles também não afirmam ter resolvido esse problema, o que representa um risco para os investidores. E eu sou um investidor, um acionista, e serei um ainda maior se a empresa abrir o capital. Vamos falar sobre o motivo. Um IPO é, provavelmente, a atividade que mais consome a atenção da liderança de uma empresa. Vai dominar a vida deles. Vai desviar a atenção do trabalho de segurança. E, depois que abrirem o capital, surgirão novas pressões — pressões por crescimento, pressões por lucros — que continuarão a competir com o trabalho de segurança. E nós

01:08 temos interesses em jogo nos fundos de pensão da cidade de Nova York. Temos um pouco de… no mercado privado, no momento. Mas, como presumimos que os índices vão incluí-los rapidamente — a SpaceX abriu essa porta —, somos enormes investidores passivos. Temos cerca de 120 bilhões em investimentos passivos. Acompanhamos o Russell 3000. Então, podemos nos tornar, em questão de dias, grandes proprietários dessa empresa. Portanto, temos interesses em jogo aqui e queremos que eles não tenham pressa, cuidem do trabalho de segurança, mitiguem os riscos, mostrem aos investidores que podemos ter confiança e, depois, prossigam.

01:39 Eles também sabem disso. Então, quanta influência você tem, sabendo que, no fim das contas, terá um viés a favor deles se abrirem o capital? Olha, acho que provavelmente temos mais influência agora. É por isso que estou me manifestando. Depois que abrirem o capital, seremos acionistas. É verdade. Infelizmente, nesta era, os poderes dos acionistas foram diluídos. Acho que não conhecemos todos os detalhes da estrutura de governança da Anthropic. No caso da SpaceX, os acionistas ficaram totalmente sem poder. Nós ficamos… Ainda estamos muito chateados com isso. Essa é uma tendência que está se acelerando, particularmente nas empresas de tecnologia. Mas ainda vamos defender nossos interesses nessa etapa. Mas

02:14 estou me manifestando agora porque acho que ainda há tempo para lidar com essas questões. Sim. Temos o acordo com a Casa Branca, um passo adiante. Alguns anos atrás, provavelmente teríamos achado que isso era algo muito importante, mas ele não é vinculante. Não há um cronograma. Então, o quê? Eles têm dez anos para implementá-lo? E muita coisa fica de fora, segundo o que tenho ouvido de outros investidores. Por exemplo, quais são os sinais de alerta em relação à segurança? Quais limites de capacidade preocupam vocês em relação à biologia e à cibersegurança, etc.? Existe alguma estrutura de governança que permita a alguém apertar o botão de parar, mesmo que haja pressão dos concorrentes? Não tenho essas respostas.

02:48 Os investidores não têm essa resposta… essas respostas. Você quer esse tipo de transparência antes de entrar nos mercados públicos. A empresa respondeu? Recebemos notícias deles ontem. Ainda não posso dizer que houve muito conteúdo, mas temos um canal de comunicação aberto. Bem, o que eles… Qual foi a reação inicial deles? O que disseram? Eu… Ainda estou… Ainda não posso caracterizar as conversas, mas eles… Você acha que isso foi promissor para a sua causa? Ainda não sei, mas parece que eles estão sob pressão de vários lados neste momento. Então, vocês não têm, de fato, autoridade legal ou regulatória direta para impedir um IPO?

03:21 Não temos, mas somos um dos maiores fundos públicos de investimento da América e do mundo. Estamos perto de um terço de um trilhão de dólares. Somos proprietários de tudo na economia global. E, além disso, estamos nos unindo a outros investidores de fundos de pensão públicos que pensam como nós. Então, acho que temos influência, e espero que nos ouçam. Você acha que essa influência vai significar… Você realmente acha que eles vão adiar? Não sei. E vou contar outro motivo pelo qual espero muito que sim. Se abrirem o capital e depois houver um incidente catastrófico de segurança, muito além… muito além do que vimos até

03:54 agora, isso seria terrível para as ações da empresa, e me preocupo que o impacto possa se espalhar pelos mercados. Algumas pessoas defendem o ponto de vista oposto: se adiarem o IPO, isso poderia… Isso, por si só, poderia ser um problema para o mercado. E, se houver euforia excessiva, isso poderia ser o gatilho. Eu me preocupo com a possibilidade de abrirem o capital e depois ocorrer um incidente. É muito melhor dedicar um pouco mais de tempo agora e fazer isso direito. Aliás, apoio que as empresas de IA de fronteira acabem abrindo o capital, porque quero que haja controle democrático sobre a tecnologia que está

04:25 mudando o mundo. Quero transparência. Quero que o público em geral tenha uma participação nisso. Portanto, não me oponho à listagem pública dessas empresas, mas isso precisa ser feito da maneira certa. Precisa ser feito quando for seguro. Você conversou com os provedores dos índices? Temos pressionado muito eles. O que fizeram com a SpaceX agora estabelece um precedente terrível. Lembra que costumávamos ter um período de maturação? Vamos acompanhar a volatilidade. Lembra que antes havia limites para a quantidade de ações em circulação? Vamos ver o que os insiders estão fazendo. Será que

04:55 estão se desfazendo de todas as ações? Isso foi jogado pela janela, e pode levar apenas alguns dias úteis, talvez cinco dias úteis, até a empresa ser incluída na listagem. Não há tempo para acompanhar nenhuma dessas preocupações, inclusive as de segurança. E, de novo, como nós e tantos outros investidores somos novos… agora estamos adotando estratégias passivas que acompanham índices. No nosso caso, eu digo… Acho que mencionei que acompanhamos o Russell 3000, que é… de propriedade da London Stock Exchange. Temos pressionado muito… contra eles e muitos outros investidores institucionais. Eles não conseguem resistir

05:27 ao dinheiro, suponho, ou à pressão. Acho que talvez também tenha havido pressão política sobre Elon Musk, mas agora estamos presos a isso. Isso vai continuar acontecendo. Você sente que é uma corrida para ver quem chega ao fundo do poço? Há… Olha, há… Temos um duopólio na fronteira da IA neste momento, certo? Todos os outros estão atrás. Isso… É principalmente uma questão da OpenAI e da Anthropic, e acho que elas estão definindo o ritmo, a cultura e os padrões. E, se fizerem isso direito, se realmente implementarem testes de terceiros com alguma transparência, para sabermos o que os avaliadores descobrem, etc., isso vai se espalhar de forma muito positiva, pelo menos entre as empresas americanas. A China é um problema mais difícil, mas ainda está atrás. Isso é extremamente complexo, mas acho que a abertura de capital agora de uma das duas integrantes do duopólio tornaria tudo ainda mais complicado. Aumentaria a pressão. E, como você sabe, a outra integrante desse duopólio, a OpenAI, adiou seu IPO. Eles não disseram por quê. Não atribuíram isso à segurança. Não sei se foi por preocupações financeiras ou outras

05:58 preocupações. Senti um certo alívio com isso, especialmente depois dos incidentes de segurança do verão. Espero que a Anthropic faça o mesmo em breve. Você também está em contato com a OpenAI e com a liderança da empresa? Não fizemos um contato formal com eles, então não posso dizer que houve qualquer comunicação formal. Mas, informalmente, conversamos com as equipes de relações governamentais de todas essas empresas. Mark, mantenha-nos informados e conte-nos o que a empresa disser. Obrigado por estar aqui.

06:30 preocupações. Senti um certo alívio com isso, especialmente depois dos incidentes de segurança do verão. Espero que a Anthropic faça o mesmo em breve. Você também está em contato com a OpenAI e sua liderança? Não fizemos uma apresentação formal a eles, então não posso dizer nada de maneira formal. Mas, informalmente… conversei com o pessoal de relações governamentais de todas essas empresas. Mark, mantenha-nos informados e conte-nos o que a empresa disser. Obrigado por estar aqui.

Transcrição original

[00:00] Let’s get to the most read letter on Wall Street in the last twenty four hours. The New York City controller Mark Levine are calling for Anthropic to pause its impending IPO over AI safety concerns, writing in a letter addressed to Anthropic CEO, Dario Amin, quote, instead of proceeding headlong with its IPO, the company should focus its energies on addressing these unprecedented risks. Mark Levine joins us now for more. Mark, good morning. Good to see you. Jonathan, Annmarie, thanks for having me. Thanks for making time for us. What prompted the letter? Let’s start there. What changed for you? This is a company building a technology that poses a potential existential threat to humanity. Those

[00:35] are not my words. Those are the words reportedly of the s one that they have published. They also do not claim to have solved that problem, posing risk for investors. And and I am an investor, a shareholder, and will be a bigger one if this goes public. We’ll talk about why that is. An IPO is about the most all consuming thing that corporate leadership could go through. It it it will dominate their lives. It will distract from the safety work. And then once they are public, there’ll be new pressures, pressures for growth, pressures for profits that will continue to push against the safety work. And we do

[01:08] have skin in the game in the New York City pension funds. We have a little bit of… In the private market right now. But because we assume the indexes are going to rush them in, SpaceX opened that door. We are huge passive investors. We have, like, a 120,000,000,000 in passive investments. We track the Russell three thousand. We are then going to become potentially within days major owners of this company. So we have a stake here, and we want them to take their time, deal with the safety work, mitigate the risk, let investors know we can be confident, and then proceed.

[01:39] They know that too. So how much leverage do you have when they know that ultimately you’ll be biased if they go public? Look. I think we have probably more leverage now. It’s why I’m speaking out. Once they go public, we will be shareholders. It’s true. Shareholder powers have been diluted in this era, unfortunately. I don’t think we know all the details on the governance structure of Anthropic. For SpaceX, shareholders were totally disempowered. We were… We are still very upset about that. This is, an accelerating trend, particularly in tech companies. But we’re still gonna advocate at that point. But

[02:14] I’m speaking out now because I think there’s still time to address these issues. Yes. We have the White House, accord a step forward. A few years ago, we probably would have thought that was a big deal, but it is nonbinding. There’s no timeline. So what? They have ten years to implement it? And it leaves a lot out, which I’m hearing from other investors. Like, what are the tripwires on safety? What are the capability thresholds you’re worried about with bio and cyber, etcetera? Is there any governance structure that would allow someone to hit the stop button even if there is pressure from competitors? I don’t have those answers.

[02:48] Investors don’t have that answer… Those answers. You want that kind of transparency before you hit the public markets. Has the company responded? We did hear from them yesterday. I can’t say there’s a lot of substance yet, but we have a line of communication open. Well, what did they… What was their initial reaction? What did they say? I I… I’m looking… I can characterize the discussions yet, but they they are Do do you find that it was hopeful to your cause? I don’t know yet, but it does appear they’re under pressure from multiple sides right now. So you don’t actually have direct legal or regulatory authority to stop an IPO?

[03:21] We do not, but we are one of the largest public investment funds in America and the world. We’re close to a third of $1,000,000,000,000. We own everything in the global economy. And more than that, we’re teaming up with other like minded public pension investors. And so I think we do have influence, and I hope we’re heard. Do you think that influence is going to mean Do you genuinely think they’re gonna postpone it? I don’t know. And I’ll tell you another reason why I really hope so. If they go public and then there’s a catastrophic safety incident beyond… Far beyond what we’ve seen right

[03:54] now, That would be terrible for their stock, and I worry that it could then reverberate throughout the markets. Some people are making the opposite point that if they delay their IPO, then it could… That itself could be a problem for the market. And if there’s frothiness, that could be the the trigger. I worry about going public and then having an incident. Much better to take a little more time right now and get this done. By the way, I support frontier AI companies ultimately going public because I want democratic control of world

[04:25] changing technology. I want the transparency. I want the broader public to have a piece of this. So I am not opposed to public listing of these companies, but it’s gotta be done right. It’s gotta be done when it’s safe. Have you spoken to the index providers? We have been pushing back on them so hard. What they did with SpaceX now is set a terrible precedent. Remember we used to have a period of seasoning? Let’s watch volatility. Remember there used to be thresholds on the float? Let’s see what insiders are doing. Are

[04:55] they dumping all their shares? That’s thrown out the window now, and it could potentially be days, business days, like five business days before this is listed. No time to track any of these concerns, safety being one of them. And, again, because we and so many investors are new… Now doing passive strategies track to indexes. In our case, I say… I think I mentioned we tracked to the Russell three thousand, so that’s… London Stock Exchange owns that. We’ve been pushing very hard for… Against them and many other institutional investors. They can’t resist

[05:27] the money, I guess, or the pressure. I think Elon Musk might even been political pressure, but now we’re stuck with this. This is gonna keep happening. Do you feel like it’s a race to the bottom? There are… Look. There there are… We have a duopoly at the frontier right now. Okay? Everyone else is behind. It… This is about OpenAI and Anthropic primarily, and I think that they are setting the pace and the culture and the standards. And if they get this right, if they really implement third party testing with some transparency so we know what the

[05:58] testers find, etcetera, that it will, in a very positive way, spread at least throughout the American companies. China is a tougher problem, but they’re still behind. This is super complicated, but I think that one of the two members of the duopoly going public now would make it even more complicated. It will add more pressure. And as you know, the other member of that duopoly, OpenAI, has hit pause on their IPO. They did not say why. They did not attribute this this to safety. I don’t know if it was financial or other

[06:30] concerns. I took a little bit of relief from that, especially after the summer’s safety incidents. I hope Anthropic follows soon. Are you also in touch with OpenAI and their leadership? We haven’t made a formal, submission to them, so, I can’t say in any formal way. But in… Informally, talked to the government affairs people of all these firms. Mark, keep us in the loop, and let’s know what the company says. Thank for being here.