Três pioneiros da IA defendem a manutenção de grandes modelos abertos à medida que as preocupações com a segurança aumentam

Iniciativas como o Pacing the Frontier visam garantir a segurança da IA por meio de parcerias com grandes laboratórios, no entanto, os modelos de código aberto continuam sendo uma questão controversa dentro da indústria. Devido à sua distribuição gratuita e à falta de controle de uso, os modelos de pesos abertos são difíceis de regular, fazendo com que algumas organizações os vejam com apreensão significativa.

No entanto, na conferência Ai4 realizada na semana passada em Las Vegas, três proeminentes especialistas em IA — o laureado com o Nobel Geoffrey Hinton, a CEO e co-fundadora da World Labs Fei-Fei Li e o co-fundador da Coursera Andrew Ng — abordaram esse tópico. Embora discordassem sobre estratégias específicas, os três defenderam veementemente a manutenção de um ecossistema de IA aberto.

Para esses palestrantes, a principal preocupação era impedir que um pequeno grupo de grandes empresas de IA controlasse o progresso tecnológico. Quando poucas empresas dominam o acesso a uma tecnologia, de forma semelhante à maneira como a Apple e o Google controlam os sistemas operacionais móveis, a inovação pode estagnar e os controladores da plataforma podem ditar o que é desenvolvido.

Andrew Ng expressou preocupação com uma dinâmica semelhante emergindo na IA. “Não quero que haja gatekeepers”, afirmou Ng. “Isso limita como todos nós podemos acessar a IA.”

As empresas são incentivadas a proteger suas vantagens competitivas, inclusive moldando as regulamentações da indústria. Isso poderia criar um cenário em que apenas as maiores e melhor financiadas empresas com os recursos para construir sistemas de IA avançados sobrevivessem.

A solução de Ng foi manter múltiplos provedores, garantindo que modelos e empresas competissem, em vez de permitir que poucos jogadores dominassem. “Se eu tivesse que dar uma prescrição, seria promover a abertura”, disse Ng, “porque a IA é uma tecnologia incrível e eu quero que ela esteja nas mãos de todos.”

Nem todos concordaram que os modelos de pesos abertos preservariam esse equilíbrio competitivo. Hinton, em particular, distinguiu entre software de código aberto, que disponibiliza o código subjacente para inspeção e modificação, e modelos de pesos abertos, que liberam os parâmetros de um modelo de IA treinado para o público.

“O código aberto é ótimo. Você mostra às pessoas o código, e muitas pessoas analisam as linhas de código e dizem: ‘Ah, há um bug.’ Pesos abertos significam que você treina um grande modelo e depois dá os pesos às pessoas. Isso é muito diferente”, explicou Hinton. “Eu era contra pesos [abertos] porque torna tão fácil para as pessoas pegar esses grandes modelos fundamentais, que são muito caros de treinar, e, por muito menos dinheiro, treiná-los para fazer coisas ruins, como ciberataques.”

Apesar de suas reservas, Hinton reconheceu que os modelos de pesos abertos agora são uma característica permanente da IA. “Acho que essa batalha foi perdida. Agora temos modelos de pesos abertos, então a barreira para muitas pessoas obterem esses grandes modelos, que era o custo de treinar modelos fundamentais, desapareceu. É tarde demais.”

No entanto, aceitar a realidade não significava ignorar os riscos. A posição de Hinton era clara: a IA continuaria a avançar, e ele acreditava que isso era em grande parte benéfico. Ele observou que isso impulsionaria a produtividade e melhoraria a educação e a saúde. “Preocupar-se com os possíveis efeitos negativos da IA e com o que seres inteligentes podem fazer quando são mais inteligentes que nós. Não acho que isso seja injusto. Acho que é injusto rotular qualquer pessoa que pense assim como um alarmista”, acrescentou Hinton.

Ng ofereceu uma perspectiva diferente. Ele argumentou que a questão não era se os modelos abertos eram arriscados, mas quem controlava o acesso e quem venceria o mercado. A entidade que constrói o modelo mais barato obtém a vantagem. Se os modelos de pesos abertos da China ganhassem ampla adoção na Ásia, na África e/ou no mundo em desenvolvimento, ele alertou, eles poderiam influenciar como bilhões de pessoas encontram ideias sobre democracia, liberdade e direitos humanos.

“Uma coisa que espero que façamos é encorajar a competitividade americana e a IA de código aberto. Acontece que a IA é uma fonte tremenda de poder brando. Você pode ver a maneira como o modelo da China tem um tremendo sucesso com a África, por exemplo”, disse Ng. “Mas minha preocupação é que, devido a todo o lobbying nos EUA e ao alarmismo, construir IA de código aberto nos Estados Unidos está tendo dificuldade para competir com modelos de pesos abertos vindos da China, e minha preocupação é que, se a China descobrir uma maneira fundamentalmente mais eficiente em termos de custos para construir IA, então coisas que são mais eficientes em termos de custos têm uma vantagem fundamental de adoção comercial.”

Li contestou essa estrutura. “É muito perigoso fazer disso uma dicotomia entre abertura total até o fechamento total”, disse ela. “Em sistemas de software complexos, bem como em sistemas científicos, é muito mais matizado.”

Li usou a física nuclear como exemplo: artigos científicos são publicados abertamente, mas o urânio é regulado, enquanto o trabalho de laboratório fica em algum lugar no meio. A lição, explicou ela, era que a abertura não precisa ser uma escolha de tudo ou nada. Diferentes camadas do ecossistema podem operar em diferentes níveis de abertura.

Ela também destacou colaborações entre instituições públicas e privadas, como o Projeto Genoma Humano. O conhecimento resultante tornou-se uma plataforma sobre a qual outros poderiam construir, disse ela, permitindo que empresas farmacêuticas lucrassem, cientistas avançassem em seu trabalho e a sociedade se beneficiasse.

“Então, acho que temos que usar [a IA] como esse tipo de infraestrutura”, disse Li. “Precisamos de alguns níveis de abertura, tanto na descoberta científica, na educação, nas parcerias globais, quanto em modelos de negócios lucrativos para empreendedores. Mas também aceitaremos sistemas de código fechado. Esse debate, especialmente no nível abrangente de ‘só podemos tolerar um’, é um debate falso. Precisamos chegar a um nível de nuance.”

No entanto, todos concordaram que algum nível de regulamentação seria necessário para manter a IA no caminho certo. “O que queremos fazer é desenvolver a IA em uma direção que ajude as pessoas, e a regulamentação nos ajudará a fazer isso”, disse Hinton. “Você não pode deixar para pessoas como Elon Musk e Mark Zuckerberg decidirem como a IA deve ser feita.”