O projeto Debian iniciou uma das discussões mais importantes dos últimos anos sobre o uso de inteligência artificial no desenvolvimento de software livre. Desenvolvedores da distribuição estão debatendo se contribuições criadas com auxílio de grandes modelos de linguagem (LLMs), como ChatGPT, Claude e outras ferramentas semelhantes, devem ser proibidas ou permitidas sob regras específicas de transparência e responsabilidade.
Por enquanto, nenhuma decisão foi tomada. O que existe é um processo formal de votação com duas propostas que seguem caminhos bastante diferentes e que podem influenciar não apenas o futuro do Debian, mas também servir de referência para outros projetos open source.
A primeira proposta foi apresentada pelos desenvolvedores Matthias Geiger e Jesse Rhodes. Ela defende que o Debian passe a proibir explicitamente qualquer contribuição produzida ou assistida por ferramentas de IA generativa.
Caso seja aprovada, a restrição abrangeria praticamente todas as áreas mantidas diretamente pelo projeto, incluindo pacotes nativos do Debian, softwares desenvolvidos pela própria equipe, documentação, traduções, páginas oficiais e até comunicações institucionais.
Ao mesmo tempo, a proposta deixa claro que isso não impediria o Debian de empacotar programas desenvolvidos por terceiros com auxílio de IA. A proibição se aplicaria apenas ao trabalho realizado diretamente pelos colaboradores do projeto.
Os argumentos para a proibição
Os autores da proposta sustentam a ideia em quatro pilares principais: questões legais, qualidade técnica, impacto na comunidade e preocupações éticas.
O primeiro deles envolve os direitos autorais. Segundo os proponentes, ainda existe muita incerteza sobre o status legal de código produzido por modelos de IA e sobre o uso do material utilizado para treiná-los. Como o Debian possui políticas bastante rígidas em relação ao licenciamento de software, aceitar esse tipo de conteúdo poderia criar insegurança jurídica.
Outro ponto levantado é a qualidade das contribuições. O documento argumenta que modelos de linguagem são capazes de produzir código sintaticamente correto, mas não necessariamente adequado aos padrões exigidos pelo Debian. No caso específico do empacotamento de software, por exemplo, pequenas inconsistências podem gerar problemas difíceis de identificar durante a revisão.
Os desenvolvedores também demonstram preocupação com a comunidade. Segundo eles, receber um grande volume de contribuições geradas por IA aumentaria a carga de trabalho dos revisores voluntários, favorecendo o desgaste da equipe e dificultando a formação de novos mantenedores realmente familiarizados com os processos internos da distribuição.
Por fim, há críticas direcionadas ao próprio ecossistema de inteligência artificial. O texto cita o uso de conteúdo público para treinamento de modelos sem autorização, o impacto de robôs que coletam grandes volumes de dados na infraestrutura de projetos open source e o elevado consumo de recursos computacionais exigido por essas tecnologias.
Uma proposta alternativa
Dois dias depois, surgiu uma segunda proposta, apresentada pelo desenvolvedor Lucas Nussbaum, que segue uma abordagem bem diferente. Em vez de proibir o uso de IA, ela reconhece que essas ferramentas já fazem parte do cotidiano de muitos desenvolvedores e propõe estabelecer regras para seu uso responsável.
Nesse modelo, contribuições parcialmente ou totalmente geradas por IA continuariam sendo aceitas, desde que o autor assumisse total responsabilidade pelo código enviado. Isso significa garantir sua qualidade, segurança, conformidade com as licenças de software e capacidade de explicar detalhadamente como aquele código funciona.
Outro ponto importante é a transparência. Quando uma contribuição tiver participação significativa de um modelo de IA, isso deverá ser informado de forma explícita, utilizando marcadores como Generated-By ou Assisted-By nos commits.
A proposta também estabelece uma regra importante sobre privacidade: informações confidenciais do Debian, como vulnerabilidades ainda não divulgadas, discussões privadas ou outros dados sensíveis, não poderão ser enviadas para serviços externos de inteligência artificial.
Um debate que pode influenciar todo o ecossistema
A discussão acontece em um momento em que diversos projetos de software livre começam a definir suas próprias políticas sobre inteligência artificial. Recentemente, a plataforma de hospedagem de código Codeberg também decidiu proibir repositórios compostos majoritariamente por código gerado por IA, enquanto outras iniciativas preferem estabelecer regras de transparência em vez de adotar proibições.
No caso do Debian, a decisão ganha um peso ainda maior por causa da enorme influência da distribuição no universo Linux. Diversos sistemas operacionais, como Ubuntu, Linux Mint e inúmeros servidores ao redor do mundo, dependem direta ou indiretamente do trabalho realizado pela comunidade Debian.
Por enquanto, o projeto permanece em período oficial de discussão da Resolução Geral. Até que uma votação seja concluída, nenhuma das propostas entrou em vigor.
Fique por dentro das principais novidades da semana sobre tecnologia e Linux: receba nossa newsletter!