Modi defende “caixa de vidro, não caixa preta” para inteligência artificial
Premiê da Índia propõe três pilares para governança da inteligência artificial e alerta para riscos sem valores humanos na programação
247 - O primeiro-ministro da Índia, Narendra Modi, apresentou nesta quinta-feira (19) uma proposta de marco global para o uso ético da Inteligência Artificial (IA), defendendo que o avanço tecnológico esteja ancorado em valores humanos e transparência. Ao discursar na plenária de líderes da Cúpula sobre o Impacto da Inteligência Artificial, em Nova Déli, ele advertiu que, sem orientação adequada, a tecnologia pode se tornar autodestrutiva. As informações são da agência ANI.
Modi afirmou que a Inteligência Artificial precisa estar fundamentada em princípios claros e na confiança pública para gerar impacto global positivo. Ele reiterou o compromisso da Índia em promover um ecossistema internacional responsável e centrado no ser humano.
Durante o evento, o premiê apresentou três sugestões para orientar o desenvolvimento ético da tecnologia. A primeira delas é a criação de um marco global confiável para dados utilizados no treinamento de sistemas de IA, respeitando a soberania das nações. “Tenho três sugestões para o uso ético da excelência e da IA. Primeiro, deve ser desenvolvido um marco de dados para o treinamento da IA, respeitando a soberania dos dados. Como diz o ditado na IA, ‘garbage in, garbage out’. Se os dados não forem seguros, equilibrados e confiáveis, o resultado não será confiável. Portanto, um marco global de dados confiáveis é essencial”, declarou.
Modi também defendeu mudanças estruturais na forma como algoritmos são desenvolvidos e aplicados. Ele criticou a chamada cultura da “caixa-preta”, em que decisões automatizadas ocorrem de forma opaca e sem possibilidade de verificação externa. Para o primeiro-ministro, o caminho deve ser outro. “Precisamos de uma abordagem de ‘caixa de vidro’ em vez de ‘caixa-preta’, na qual as regras de segurança possam ser visualizadas e verificadas. A responsabilidade se tornará mais clara, e o comportamento ético nos negócios também será incentivado”, afirmou.
Ao abordar os riscos associados à IA, o líder indiano mencionou o chamado “Problema do Clipe de Papel”, um experimento mental frequentemente citado em debates sobre segurança tecnológica. “Se for dada a uma máquina a meta de simplesmente fabricar clipes de papel, ela continuará fazendo isso, mesmo ao custo de devorar todos os recursos do mundo”, alertou. Para ele, evitar cenários desse tipo exige a incorporação de valores humanos no núcleo dos sistemas inteligentes.
Modi ressaltou que a excelência em Inteligência Artificial não pode existir isoladamente, sem conexão com princípios éticos. Ele demonstrou expectativa de que o encontro internacional contribua para consolidar um modelo mais sensível e inclusivo. “Acredita-se que esta Cúpula desempenhará um papel crucial na construção de um ecossistema global de IA centrado no ser humano e sensível. Se olharmos para a história, veremos que os seres humanos transformaram cada ruptura em uma nova oportunidade. Hoje, mais uma vez, enfrentamos essa oportunidade. Juntos, temos que transformar essa ruptura na maior oportunidade da humanidade”, disse.
O primeiro-ministro também defendeu a democratização da Inteligência Artificial, argumentando que a tecnologia deve promover inclusão e empoderamento, e não reduzir indivíduos a meros dados. Segundo ele, a Índia enxerga a IA como um projeto estratégico para o futuro, desde que seu desenvolvimento ocorra com transparência.
Ao se dirigir a líderes políticos e empresariais presentes, Modi sintetizou sua visão sobre equilíbrio regulatório e inovação: “Temos que dar um céu aberto à IA, mas, ao mesmo tempo, temos que manter as rédeas em nossas mãos”.
O premiê comparou ainda a postura indiana à de países que preferem modelos fechados e confidenciais de desenvolvimento tecnológico. “Alguns países acreditam que a IA deve ser desenvolvida de maneira confidencial e fechada. Mas a Índia é diferente. Acreditamos que a IA realmente servirá ao bem do mundo quando for compartilhada e seus códigos forem abertos. Só então milhões de mentes jovens poderão aprimorá-la ainda mais”, afirmou.
Encerrando sua participação, Modi destacou a divisão internacional entre aqueles que veem a IA com desconfiança e os que reconhecem seu potencial transformador. “Digo com orgulho e responsabilidade que não vemos medo. A Índia vê fortuna na IA, a Índia vê um futuro na IA. Na IA, a Índia vê oportunidade e o projeto do amanhã”, declarou.
