Blog

Microsoft proíbe departamentos de polícia dos EUA de usar ferramenta empresarial de IA para reconhecimento facial

A Microsoft mudou seu política proibir os departamentos de polícia dos EUA de usar IA generativa para reconhecimento facial por meio do Serviço OpenAI do Azureo wrapper totalmente gerenciado e focado na empresa da empresa em torno das tecnologias OpenAI.

O texto adicionado na quarta-feira aos termos de serviço do Azure OpenAI Service proíbe integrações com o Azure OpenAI Service de serem usadas “por ou para” departamentos de polícia para reconhecimento facial nos EUA, incluindo integrações com modelos de análise de texto e fala da OpenAI.

Um novo item separado cobre “qualquer aplicação da lei em todo o mundo” e proíbe explicitamente o uso de “tecnologia de reconhecimento facial em tempo real” em câmeras móveis, como câmeras corporais e câmeras de painel, para tentar identificar uma pessoa em “descontrolados, no -selvagens”.

As mudanças nos termos ocorrem uma semana depois que a Axon, fabricante de produtos de tecnologia e armas para militares e policiais, anunciou um novo produto que aproveita o OpenAI GPT-4 modelo de texto generativo para resumir o áudio das câmeras corporais. Os críticos foram rápidos em apontar as armadilhas potenciais, como alucinações (mesmo os melhores modelos generativos de IA hoje inventam fatos) e preconceitos raciais introduzido a partir dos dados de treinamento (o que é especialmente preocupante, dado que pessoas de cor são muito mais probabilidade de ser parado pela polícia do que seus pares brancos).

Não está claro se a Axon estava usando GPT-4 por meio do Azure OpenAI Service e, em caso afirmativo, se a política atualizada foi em resposta ao lançamento do produto Axon. OpenAI tinha anteriormente restrito a utilização de seus modelos para reconhecimento facial por meio de suas APIs. Entramos em contato com Axon, Microsoft e OpenAI e atualizaremos esta postagem se recebermos resposta.

Os novos termos deixam margem de manobra para a Microsoft.

A proibição total do uso do serviço Azure OpenAI refere-se apenas aos EUA, não internacional, polícia. E não cobre o reconhecimento facial realizado com estacionário câmeras em controlada ambientes, como um back office (embora os termos proíbam qualquer uso de reconhecimento facial pela polícia dos EUA).

Isso acompanha a abordagem recente da Microsoft e do parceiro próximo OpenAI aos contratos de aplicação da lei e defesa relacionados à IA.

Em janeiro, reportagem da Bloomberg revelado que a OpenAI está trabalhando com o Pentágono em uma série de projetos, incluindo capacidades de segurança cibernética – um desvio da startup proibição anterior em fornecer sua IA aos militares. Em outros lugares, a Microsoft lançou o uso da ferramenta de geração de imagens da OpenAI, DALL-E, para ajudar o Departamento de Defesa (DoD) a construir software para executar operações militares, por A interceptação.

O serviço Azure OpenAI foi disponibilizado no produto Azure Government da Microsoft em fevereiro, adicionando recursos adicionais de conformidade e gerenciamento voltados para agências governamentais, incluindo autoridades policiais. Em um postagem no blogCandice Ling, vice-presidente sênior da divisão governamental da Microsoft, Microsoft Federal, prometeu que o Azure OpenAI Service seria “submetido para autorização adicional” ao DoD para cargas de trabalho que apoiam missões do DoD.

Atualizar: Após a publicação, a Microsoft disse que sua alteração original nos termos de serviço continha um erro e, na verdade, a proibição se aplica apenas ao reconhecimento facial nos EUA. Não é uma proibição geral para os departamentos de polícia usarem o serviço.

Tom Santos

Antes de tudo, permita-me apresentar-me: sou Tom Santos, um blogueiro simples que encontra alegria em manter-se constantemente atualizado sobre o cenário informativo.

Artigos relacionados

Botão Voltar ao topo