O fundador e CEO da Nvidia, Jensen Huang, deixou bem clara sua posição sobre os perigos que a IA representa enquanto falava na conferência Dreamforce da Salesforce, na terça-feira. Para ele, a IA não é uma nova forma de 'mente alienígena', como descreveu pelo menos um pesquisador de segurança da OpenAI. É apenas hardware e software, diz ele, construídos por humanos. Isso significa, em sua opinião, que pode ser controlada por humanos e pelas leis existentes.
"A segurança é um problema de engenharia, não jurídico", disse ele. "No fim das contas, estamos desenvolvendo software. "No fim das contas, estamos desenvolvendo sistemas de computação. "É um sistema de computação complicado, mas, no final, é um sistema de computação."
Portanto, não há necessidade de novas leis ou regulamentações para governá-la, argumenta ele. Na verdade, Huang vê pouca necessidade de novas leis em geral. O livre mercado, argumenta ele, será suficiente para pressionar as empresas a não lançarem produtos inseguros.
"Se não tivermos confiança na segurança dos produtos, como todas as empresas, como você e eu, todas as empresas aqui presentes, se vocês construírem um produto ou um serviço e não tiverem confiança em sua funcionalidade, capacidade ou segurança, então não o lancem.", E isso é algo muito óbvio a ser feito", disse ele.
Ele continuou: "Vocês devem dosar seus passos até terem a certeza de que estão lançando algo que o mercado apreciará.", As forças do mercado já estão lá.", Não precisamos de novas leis.", Não precisamos de novas regulamentações.", Precisamos apenas que as empresas decidam quando correr tão rápido quanto podem.", Acho que inovação, velocidade e produtos seguros... é uma falsa escolha.", Vocês definitivamente poderiam ter ambos ao mesmo tempo.", Então corram o mais rápido que puderem.", Mas se em algum ponto no tempo vocês sentirem que a empresa está fora de controle, ou que o produto não será seguro, sabem, façam uma pausa e garantam que estão fazendo as coisas corretamente.",
De certa forma, isso é um pensamento reconfortante. Se alguém no mundo conhece IA, é o fundador da Nvidia, que vem construindo os cérebros de hardware da IA muito antes do ChatGPT existir e agora dirige uma empresa que também cria modelos de código aberto, agentes, harnesses e sandboxes.
Por outro lado, se estamos sendo cínicos, sua perspectiva também não é surpreendente para alguém que teve seu pão tão bem untado pelo boom da IA. Por que ele gostaria que a regulação viesse junto e adicionasse uma camada de obstáculo que poderia desacelerar a busca da Nvidia por vender cada vez mais sistemas e softwares de IA? Como ele também disse na entrevista: 'Estou mais ambicioso do que nunca'. Como resultado de nossa ambição e com o aumento da produtividade dos produtos que obtemos da IA, o céu é o limite para nós. O céu é o limite para nossa empresa. O céu é o limite para cada indústria, para cada país individual.
Infelizmente, até mesmo empresas com as melhores intenções lançam produtos defeituosos com consequências não intencionais, até mesmo no software. Lembre-se do fiasco de tela azul da CrowdStrike em 2024 que paralisou milhares de voos e causou outros transtornos para os negócios? Depois há empresas acusadas de agir deliberadamente com intenções inferiores às boas. A Meta acabou de pagar US$ 18 bilhões para resolver uma ação judicial sobre danos à saúde das crianças nas redes sociais.
E a IA já causou danos também, independentemente das intenções ou testes de segurança envolvidos, desde um modelo da OpenAI invadindo o Hugging Face até ações judiciais contra o laboratório de IA pelos suicídios de jovens que mantiveram longas conversas com seu chatbot.
A estratégia de 'deixá-los em paz', que permitiria a essas empresas lançar produtos conforme bem entendessem, poderia ser uma abordagem imprudente para a segurança da IA do ponto de vista da sociedade. Embora Huang esteja certo de que é possível que as leis existentes de responsabilidade por produtos possam cobrir a IA — se a IA não nos matar todos antes de haver casos suficientes para chegar aos tribunais e testar essa teoria.
Ele não discutiu a outra rota, que parece estar tomando forma: a autorregulação da indústria. A abordagem de Huang tem sido mais defender modelos de pesos abertos e o uso das empresas deles como contrapeso competitivo aos laboratórios de IA proprietários.
Mas, no momento, a indústria tem uma janela curta para instituir a autorregulação e incentivar os laboratórios de IA em todo o mundo, inclusive na China, a ver a sabedoria em participar. Como disse o CEO da Microsoft, Satya Nadella, na Cúpula All-In, na segunda-feira: 'A China também deve se preocupar profundamente com as mesmas questões de segurança se os Estados Unidos se preocupam com elas, certo?' Por que deveria ser diferente para eles? Não é como se eles não tivessem o mesmo problema de hacking. Não é como se eles não quisessem garantir que seus cidadãos estejam beneficiando-se da IA, assim como nós quereríamos que nossos cidadãos se beneficiassem da IA.'
Por enquanto, no entanto, se Huang diz não a qualquer nova regulamentação da IA, ele pode ser influente o suficiente para conseguir seu caminho. Ele também demonstrou esta semana que ele, literalmente, tem o ouvido do presidente Trump.
