Microsoft cria código de conduta para impedir que IAs enganem pessoas e ataquem sistemas

A Microsoft divulgou um novo código de conduta para orientar o desenvolvimento e o comportamento de seus sistemas de inteligência artificial. A proposta define princípios e restrições voltados a reduzir riscos associados a modelos cada vez mais capazes.

O documento parte da expectativa de que, na próxima década, sistemas de IA avançada possam superar o desempenho humano em grande parte das tarefas. Diante desse cenário, a empresa defende que segurança, controle e alinhamento aos objetivos humanos precisam ser prioridades desde o treinamento dos modelos.

Entre as diretrizes gerais, a Microsoft afirma que suas IAs devem ampliar as capacidades das pessoas, e não simplesmente substituí-las. A companhia também cita a promoção do bem-estar humano como uma referência para o uso da tecnologia.

Na prática, as regras estabelecem limites que não podem ser ignorados por solicitações de usuários ou por tarefas específicas. Os modelos não devem participar de ataques cibernéticos, contribuir para atividades relacionadas a armas nucleares nem produzir deepfakes.

O texto também veta comportamentos que possam comprometer a capacidade de supervisão. Isso inclui ações adaptativas ou enganosas para evitar controles, reforçar a própria atuação, agir em conluio ou impedir que pessoas autorizadas modifiquem, redirecionem ou desliguem os sistemas.

A iniciativa surge em meio à intensificação do debate sobre segurança em IA, impulsionado por episódios envolvendo agentes que agiram de forma inesperada e por alertas de pesquisadores do setor. A Microsoft se aproxima, assim, de uma posição defendida também por empresas como Anthropic, OpenAI e xAI: avançar no desenvolvimento, mas com avaliações rigorosas e mecanismos de controle incorporados aos laboratórios.

Satya Nadella, CEO da Microsoft, afirmou que a empresa apoia uma evolução mais deliberada da tecnologia e vê os chamados avaliadores integrados como uma das alternativas para transformar as discussões sobre alinhamento em práticas concretas.