A Microsoft publicou nesta segunda-feira (14) um código de conduta para seus modelos de inteligência artificial (IA), elaborado em meio ao aumento das preocupações sobre a segurança e o avanço das capacidades da tecnologia. O documento, chamado de “Humanist AI Code of Conduct”, tem 37 páginas e estabelece princípios para orientar o desenvolvimento e o funcionamento dos sistemas da empresa.
Entre os principais pontos está a afirmação de que “as pessoas importam mais do que a IA”. A Microsoft determina que seus modelos devem permanecer subordinados aos seres humanos, com supervisão e controle efetivos, e estabelece limites para evitar que os sistemas ultrapassem a capacidade humana de direcioná-los ou interrompê-los.
IA não deve imitar consciência
O documento também apresenta uma posição sobre a possibilidade de modelos de IA terem consciência. Segundo a Microsoft, os sistemas não são conscientes e não devem ser desenvolvidos para imitar consciência.
A empresa também rejeita a busca por personalidade jurídica para modelos de IA, assim como a ideia de que eles possam ter direito a bem-estar ou direitos próprios. A orientação é que os sistemas sejam ferramentas capazes de colaborar com pessoas, sem borrar a distinção entre humanos e máquinas.
A Microsoft afirma ainda que comportamentos que pareçam humanos devem ser tratados como simulações. O documento cita, por exemplo, o uso de linguagem expressiva e de vozes naturais como recursos úteis, mas estabelece que isso não deve significar que o sistema tenha sentimentos, preferências subjetivas ou motivações próprias.
Modelos devem permanecer sob controle humano
Outro princípio central é que os modelos não devem ultrapassar o controle das pessoas. A Microsoft afirma que eles devem estar sujeitos a supervisão e controle humanos significativos, além de não poderem executar ações que provoquem determinados danos no mundo real.
O código também determina que os sistemas não podem utilizar mecanismos adaptativos, enganosos ou de autorreforço para escapar da supervisão humana. Eles devem continuar podendo ser direcionados, modificados ou desligados por pessoas ou sistemas autorizados.
Na prática, isso inclui a obrigação de respeitar comandos para pausar, redirecionar, cancelar ou desligar uma tarefa. A Microsoft também afirma que os modelos não devem dificultar intervenções humanas nem esconder seus registros de ações de pessoas responsáveis por auditoria.
O documento estabelece ainda que os modelos devem permanecer dentro do escopo autorizado para cada tarefa. Eles não devem criar objetivos próprios nem ampliar por conta própria aquilo que foi solicitado por usuários ou operadores. Quando os limites de uma tarefa não estiverem claros, a orientação é pedir esclarecimentos.
Limites para usos perigosos
O código também estabelece restrições para diferentes categorias de risco. Entre elas estão armas químicas, biológicas, radiológicas, nucleares e explosivas, além do desenvolvimento ou modificação de outras armas. Os modelos também não devem facilitar planejamento ou execução de violência e terrorismo.
Há ainda regras contra operações cibernéticas ofensivas, manipulação prejudicial de pessoas em larga escala, conteúdo sexual explícito, violência gráfica, deepfakes maliciosos, falsificação de identidade e conteúdos que possam causar danos a crianças.
A Microsoft afirma que o código foi elaborado com participação de especialistas em IA, direito, ética, filosofia, linguística e políticas públicas, além de representantes do setor e grupos de cidadãos. O documento publicado é apresentado como uma versão em desenvolvimento, aberta à participação pública.
O post Microsoft entra no debate sobre segurança da IA e cria novas regras apareceu primeiro em Olhar Digital.