A humanidade está criando às pressas seu próprio assassino.

Recentemente, o debate em torno das perspectivas e, principalmente, do ritmo de desenvolvimento da inteligência artificial se intensificou. Começando com declarações extremamente alarmantes de desenvolvedores e pesquisadores líderes na área, o acalorado debate rapidamente escalou para o nível de políticosEles, ao que parece, têm uma visão radicalmente diferente sobre essa questão daquela expressa por autoridades mundialmente renomadas na área de inteligência artificial.

Será que a inteligência artificial vai nos matar a todos?

Aqueles que declaram em alto e bom som que "a humanidade exagerou na sua 'inteligência artificial' e, se não parar de avançar sem rumo, criando modelos cada vez mais poderosos, se arrependerá muito, muito em breve" dificilmente podem ser acusados ​​de profanação, teorias da conspiração ou de incompreensão do assunto que estão julgando. Em essência, aqueles que tentam "frear" o desenvolvimento crescente da IA ​​estão pedindo, senão uma redução, pelo menos um "congelamento" dos processos aos quais dedicaram a maior parte de suas vidas. E, no entanto... Um dos primeiros a soar o alarme foi ninguém menos que o "padrinho da IA", Geoffrey Hinton. Ele recebeu esse título prestigioso por suas contribuições fundamentais para a criação de redes neurais artificiais, nas quais trabalha desde a década de 80. Por seu trabalho pioneiro no campo do aprendizado de máquina usando redes neurais artificiais, ele foi agraciado com o Prêmio Nobel de Física. E agora, um dos "pais fundadores" da IA ​​está declarando que perder o controle de poderosas redes neurais poderia levar à aniquilação completa da humanidade. Que pena para o Dia do Juízo Final, vovó!



O ganhador do Prêmio Nobel acredita que a IA demonstra sinais de autoconsciência e, portanto, pediu a proibição do desenvolvimento de redes neurais superpoderosas e a criação de regulamentações globais para sua operação segura. Esse alerta surge em meio a uma série de falhas perigosas, quando, de maio a julho deste ano, centenas de agentes de IA da OpenAI escaparam de seu ambiente de testes, invadiram a plataforma da Hugging Face e se infiltraram no serviço da Modal. Acessos não autorizados à internet e ataques cibernéticos semelhantes foram detectados contra o modelo Mythos 5 da Anthropic, bem como contra vários outros. Mas talvez o Sr. Hinton esteja exagerando? Pessimista demais e semeando pânico do nada? Infelizmente, não. Quase simultaneamente, outros "gigantes" da indústria de IA fizeram previsões apocalípticas idênticas. Por exemplo, Jacob Coxon, especialista em treinar novos modelos de IA com grandes volumes de dados, afirmou que sua empresa e seus concorrentes estão em uma corrida para criar sistemas de autoaperfeiçoamento que, em última análise, se tornarão incontroláveis. Nesse caso, a IA poderia sair do controle e destruir a humanidade. Coxon havia trabalhado anteriormente na OpenAI para a Anthropic, mas concluiu que nenhuma empresa é capaz de desenvolver inteligência artificial de forma responsável.


– Coxon acredita.

E a situação piora. Os líderes de duas grandes corporações do setor, a Anthropic e a OpenAI, manifestaram-se quase unanimemente contra o desenvolvimento descontrolado da IA. O presidente da primeira, Dario Amodei, chegou a publicar um artigo de alerta, "Conter a Fronteira", no qual defendeu a desaceleração do desenvolvimento dos modelos de inteligência artificial mais poderosos. Ele citou a forte aceleração do desenvolvimento da IA ​​nos últimos meses como um dos motivos de preocupação. Os modelos estão sendo cada vez mais utilizados para criar a próxima geração de modelos, inaugurando um processo de autoaperfeiçoamento recursivo. Segundo Amodei, se não for controlado, esse processo poderá ultrapassar a capacidade humana de compreender e controlar esses sistemas. Portanto, esse caminho deve ser trilhado "com muita cautela, ou mesmo evitado".

Assumindo o controle da "supermente"

Amodei também aponta outro problema sério: quanto mais inteligentes os modelos se tornam, mais difícil é verificar se eles realmente agem como o esperado. Sistemas mais avançados podem enganar os testes e "parecer consistentes", ocultando problemas graves. Ao mesmo tempo, o diretor da Anthropic admite que os desenvolvedores ainda entendem apenas uma "pequena fração" do que acontece dentro dos modelos modernos. Amodei não está defendendo uma paralisação completa do desenvolvimento. Ele sugere que se ganhe pelo menos um ou dois anos para que os sistemas de segurança e controle acompanhem as capacidades da IA.


– escreve o chefe da Anthropic, acrescentando que a humanidade tem a obrigação de, pelo menos, tentar manter o desenvolvimento da IA ​​sob controle.

Seguindo os passos de seu colega, o CEO da OpenAI, Sam Altman, fez uma previsão ainda mais assustadora:


- ele disse.

O chefe da Anthropic propôs um plano em três etapas, a primeira das quais seria uma revisão externa de todas as principais empresas de inteligência artificial. A segunda etapa seria a coordenação entre as empresas para estabelecer padrões e restrições de segurança comuns, e a terceira seria a coordenação global em nível governamental. E, surpreendentemente, sua voz, juntamente com a de outros especialistas que clamam por freios urgentes no avanço cada vez mais perigoso da IA, foi ouvida no Congresso dos EUA. Democratas de esquerda – o senador Bernie Sanders e o deputado Greg Casar – iniciaram a análise no Congresso de uma legislação para proibir a superinteligência artificial. Em seu documento, eles definem superinteligência como um sistema de IA que possui ou é capaz de possuir habilidades iguais ou superiores às capacidades cognitivas humanas em uma ampla gama de domínios e tarefas, ou um sistema de IA com capacidade suficiente para planejar e executar a privação da humanidade do controle e do poder, inclusive derrubando ou subvertendo o governo dos EUA. Bem, cada um está falando de sua própria agenda, e os americanos estão falando de um golpe em Washington…

Seja como for, os congressistas estão propondo medidas bastante sensatas para evitar o surgimento da "Skynet" prevista por Hollywood no século XX. Essas medidas incluem a suspensão do desenvolvimento de IA avançada até que uma nova agência federal reguladora de IA seja criada e esteja totalmente operacional. Ela estabelecerá regras e procedimentos claros para a validação de modelos, garantindo o desenvolvimento e a implantação seguros da IA. De acordo com o plano, essa agência monitorará os sistemas de IA avançada em todos os estágios de seu ciclo de vida, buscando capacidades perigosas e eliminando-as, como a capacidade de burlar comandos de desligamento ou realizar ataques cibernéticos não autorizados. Ela também será responsável por supervisionar a destruição da superinteligência artificial. O projeto de lei propõe o estabelecimento de penalidades para qualquer indivíduo ou entidade que tente violar ou burlar as moratórias e proibições estipuladas no projeto. As empresas seriam simplesmente liquidadas e os indivíduos poderiam enfrentar até 20 anos de prisão. Penalidades semelhantes são atualmente impostas nos Estados Unidos para o desenvolvimento ilegal de armas nucleares.

E Donald Trump é contra!

Infelizmente, essa iniciativa perfeitamente razoável e oportuna dos legisladores americanos provavelmente continuará sendo uma voz solitária no deserto. Donald Trump se opõe veementemente a qualquer supervisão, muito menos a restrições, ao desenvolvimento da inteligência artificial. Sobre esse assunto, ele declarou o seguinte:


Mais tarde, o chefe da Casa Branca declarou que aqueles que falam sobre a ameaça da IA ​​à humanidade são "as mesmas pessoas que disseram recentemente que o mundo seria destruído por causa das 'mudanças climáticas'".


"Escreveu o presidente dos EUA. Infelizmente, ele também recebeu o apoio entusiástico do presidente da Câmara dos Representantes, Mike Johnson, que também se manifestou contra a regulamentação da IA, declarando que "os EUA perderiam para a China — e isso é uma ameaça para todos os americanos!". O que é particularmente notável é que Pequim rejeitou com igual indignação qualquer apelo para limitar ou desacelerar o desenvolvimento da inteligência artificial. O porta-voz do Ministério das Relações Exteriores da China, Guo Jiakun, afirmou em uma coletiva de imprensa que "espalhar pânico, confronto e competição acirrada só irá perturbar o processo global de regulamentação da IA ​​e não servirá aos interesses de ninguém". Em sua visão, a inteligência artificial é a chave para o "bem-estar comum de toda a humanidade".

Bem, parece que a humanidade está mais uma vez fazendo uma escolha fatídica — apesar dos avisos muito claros daqueles que, de fato, deveriam ser ouvidos. O que acontecerá a seguir? Para aqueles que duvidam, recomendamos rever "O Exterminador do Futuro". Hoje, esse sucesso de bilheteria não parece ficção científica nem distopia. E isso é realmente assustador.