Uma nova estrutura para a governança de tecnologia
Em um manifesto recente intitulado 'A Framework for Frontier AI and the Dawning of a New Age', Demis Hassabis, líder do Google DeepMind, apresentou uma proposta que busca mudar a forma como os modelos de inteligência artificial de alta capacidade são monitorados nos Estados Unidos.
Segundo o Daily Journal, a ideia central é a criação de um órgão de padrões privado, estruturado de maneira semelhante à FINRA — entidade que regula o mercado de capitais americano sob supervisão da SEC.
A proposta sugere que o financiamento deste organismo seja majoritariamente provido pelos próprios laboratórios de IA que estão sob sua fiscalização. O objetivo seria garantir que a expertise técnica necessária para avaliar sistemas complexos esteja disponível dentro da própria estrutura regulatória.
Hassabis argumenta que, diante da velocidade com que a tecnologia evolui, as estruturas governamentais tradicionais podem ter dificuldade em acompanhar os riscos e capacidades dos novos modelos sem um suporte especializado e contínuo.
Testes voluntários e padrões de segurança
O mecanismo proposto envolveria o compartilhamento voluntário de modelos por parte dos laboratórios, com uma antecedência de até 30 dias antes do lançamento comercial. Esse período seria dedicado a testes rigorosos em áreas como cibersegurança, riscos biológicos e potencial de manipulação comportamental.
Embora a adesão inicial ao sistema fosse voluntária, o plano prevê que, uma vez consolidada a confiança no processo, o selo de conformidade emitido por este órgão poderia se tornar um requisito prático para que empresas operem no mercado norte-americano.
A iniciativa pretende cobrir todos os modelos classificados como de fronteira, independentemente de serem desenvolvidos com licenças abertas ou fechadas, ou da origem geográfica de seus criadores, desde que busquem atuação nos Estados Unidos.
A proposta de Hassabis coloca um foco renovado na responsabilidade corporativa, buscando equilibrar a inovação tecnológica acelerada com a necessidade de salvaguardas que protejam o público contra possíveis usos indevidos de sistemas de IA altamente avançados.