Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch publicou um série de entrevistas focado em mulheres notáveis que contribuíram para a revolução da IA. Publicaremos esses artigos ao longo do ano, à medida que o boom da IA continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.
Em destaque hoje: Rachel Coldicfora é o fundador de Indústrias Cuidadosas, que pesquisa o impacto social que a tecnologia tem na sociedade. Os clientes incluem Salesforce e Royal Academy of Engineering. Antes da Careful Industries, Coldicutt foi CEO do think tank Doteveryone, que também conduziu pesquisas sobre como a tecnologia estava impactando a sociedade.
Antes da Doteveryone, ela passou décadas trabalhando em estratégia digital para empresas como a BBC e a Royal Opera House. Ela frequentou a Universidade de Cambridge e recebeu uma homenagem da OBE (Ordem do Império Britânico) por seu trabalho em tecnologia digital.
Resumidamente, como você começou na IA? O que te atraiu para a área?
Comecei a trabalhar com tecnologia em meados dos anos 90. Meu primeiro trabalho técnico propriamente dito foi no Microsoft Encarta em 1997 e, antes disso, ajudei a construir bancos de dados de conteúdo para livros de referência e dicionários. Nas últimas três décadas, trabalhei com todos os tipos de tecnologias novas e emergentes, por isso é difícil identificar o momento exato em que “entrei na IA”, porque tenho usado processos e dados automatizados para orientar decisões, criar experiências, e produz obras de arte desde os anos 2000. Em vez disso, penso que a questão é provavelmente: “Quando é que a IA se tornou o conjunto de tecnologias sobre as quais todos queriam falar?” e acho que a resposta é provavelmente por volta de 2014, quando a DeepMind foi adquirida pelo Google – foi o momento no Reino Unido em que a IA ultrapassou todo o resto, embora muitas das tecnologias subjacentes que agora chamamos de “IA” fossem coisas que já estavam razoavelmente em uso. uso comum.
Comecei a trabalhar com tecnologia quase por acidente na década de 1990, e o que me manteve nessa área durante muitas mudanças foi o fato de que ela está cheia de contradições fascinantes: adoro como pode ser fortalecedor aprender novas habilidades e fazer coisas, Sou fascinado pelo que podemos descobrir a partir de dados estruturados e poderia passar o resto da minha vida observando e entendendo como as pessoas criam e moldam as tecnologias que usamos.
De qual trabalho você mais se orgulha na área de IA?
Muito do meu trabalho em IA tem sido na formulação de políticas e avaliações de impacto social, trabalhando com departamentos governamentais, instituições de caridade e todos os tipos de empresas para ajudá-los a usar a IA e tecnologia relacionada de maneira intencional e confiável.
Na década de 2010, dirigi o Doteveryone – um grupo de reflexão sobre tecnologia responsável – que ajudou a mudar a forma como os legisladores do Reino Unido pensam sobre a tecnologia emergente. O nosso trabalho deixou claro que a IA não é um conjunto de tecnologias isento de consequências, mas algo que tem implicações difusas no mundo real para as pessoas e as sociedades. Em particular, estou muito orgulhoso do serviço gratuito Ferramenta de verificação de consequências desenvolvemos, que agora é usado por equipes e empresas em todo o mundo, ajudando-as a antecipar os impactos sociais, ambientais e políticos das escolhas que fazem quando lançam novos produtos e recursos.
Mais recentemente, o 2023 Fórum de IA e Sociedade foi outro momento de orgulho. Na preparação para o Fórum de Segurança de IA do governo do Reino Unido, dominado pela indústria, minha equipe na Care Trouble rapidamente convocou e organizou uma reunião de 150 pessoas de toda a sociedade civil para defender coletivamente que é possível fazer a IA funcionar para 8 bilhões de pessoas , não apenas 8 bilionários.
Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens?
Como um veterano no mundo da tecnologia, sinto que alguns dos ganhos que obtivemos na representação de género na tecnologia foram perdidos nos últimos cinco anos. Um estudo do Instituto Turing mostra que menos de 1% do investimento feito no sector da IA foi em startups lideradas por mulheres, enquanto as mulheres ainda representam apenas um quarto da força de trabalho tecnológica global. Quando vou a conferências e eventos sobre IA, a mistura de géneros – especialmente em termos de quem obtém uma plataforma para partilhar o seu trabalho – faz-me lembrar o início dos anos 2000, o que considero muito triste e chocante.
Sou capaz de navegar pelas atitudes sexistas da indústria tecnológica porque tenho o enorme privilégio de poder fundar e dirigir a minha própria organização: passei grande parte do início da minha carreira a sofrer diariamente sexismo e assédio sexual – lidando com isso atrapalha a realização de um excelente trabalho e é um custo de entrada desnecessário para muitas mulheres. Em vez disso, priorizei a criação de um negócio feminista onde, colectivamente, lutamos pela equidade em tudo o que fazemos, e a minha esperança é que possamos mostrar que outras formas são possíveis.
Que conselho você daria às mulheres que desejam ingressar na área de IA?
Não sinta que precisa trabalhar na área de “questões femininas”, não se deixe levar pelo hype e procure colegas e construa amizades com outras pessoas para ter uma rede de apoio ativa. O que me fez continuar todos esses anos foi minha rede de amigos, ex-colegas e aliados – oferecemos apoio mútuo, um suprimento interminável de conversas estimulantes e, às vezes, um ombro para chorar. Sem isso, pode parecer muito solitário; muitas vezes você será a única mulher na sala que é vital ter um lugar seguro para descomprimir.
Assim que tiver oportunidade, contrate bem. Não reproduza estruturas que você viu nem consolide as expectativas e normas de uma indústria elitista e sexista. Desafie o status quo sempre que contratar e apoie seus novos contratados. Dessa forma, você pode começar a construir um novo normal, onde quer que esteja.
E procure o trabalho de algumas das grandes mulheres pioneiras na pesquisa e na prática da IA: comece lendo o trabalho de pioneiras como Abeba Birhane, Timnit Gebru e Joy Buolamwini, que produziram pesquisas fundamentais que moldaram nossa compreensão de como a IA muda e interage com a sociedade.
Quais são algumas das questões mais urgentes que a IA enfrenta à medida que ela evolui?
AI é um intensificador. Pode parecer que algumas das utilizações são inevitáveis, mas, como sociedades, precisamos de ser capacitados para fazer escolhas claras sobre o que vale a pena intensificar. Neste momento, o principal objectivo que o aumento da utilização da IA está a fazer é aumentar o poder e os saldos bancários de um número relativamente pequeno de CEOs do sexo masculino e parece improvável que (ela) esteja a moldar um mundo em que muitas pessoas queiram viver. Eu adoraria ver mais pessoas, especialmente na indústria e na elaboração de políticas, engajadas nas questões sobre como seria uma IA mais democrática e responsável e se ela é mesmo possível.
Os impactos climáticos da IA — a utilização de água, energia e minerais essenciais — e os impactos na saúde e na justiça social para as pessoas e comunidades afetadas pela exploração dos recursos naturais devem estar no topo da lista para um desenvolvimento responsável. O facto de os LLMs, em particular, consumirem tanta energia mostra que o modelo actual não é adequado à sua finalidade; em 2024, precisamos de inovação que proteja e restaure o mundo natural, e os modelos extrativos e as formas de trabalho precisam de ser retirados.
Precisamos também de ser realistas sobre os impactos da vigilância de uma sociedade mais dataficada e sobre o facto de que — num mundo cada vez mais volátil — quaisquer tecnologias de uso geral serão provavelmente utilizadas para horrores inimagináveis na guerra. Todos os que trabalham com IA precisam de ser realistas sobre a associação histórica e de longa data da I&D tecnológica com o desenvolvimento militar; precisamos de defender, apoiar e exigir a inovação que começa e é governada pelas comunidades, para que possamos obter resultados que fortaleçam a sociedade e não conduzam a um aumento da destruição.
Quais são alguns problemas dos quais os usuários de IA devem estar cientes?
Além da extracção ambiental e económica que está incorporada em muitos dos actuais modelos de negócio e tecnologia de IA, é realmente importante pensar sobre os impactos diários do aumento da utilização da IA e o que isso significa para as interacções humanas quotidianas.
Embora algumas das questões que chegaram às manchetes tenham a ver com riscos mais existenciais, vale a pena ficar de olho em como as tecnologias que você usa estão ajudando e atrapalhando você diariamente: quais automações você pode desligar e contornar, quais entregam benefício real, e onde você pode votar com os pés como consumidor para defender que realmente deseja continuar conversando com uma pessoa real, não com um bot? Não precisamos nos contentar com uma automação de baixa qualidade e devemos nos unir para pedir melhores resultados!
Qual é a melhor maneira de construir IA com responsabilidade?
A IA responsável começa com boas escolhas estratégicas – em vez de apenas lançar um algoritmo e esperar o melhor, é possível ser intencional sobre o que automatizar e como. Tenho falado sobre a ideia de “Internet suficiente” há alguns anos e parece uma ideia realmente útil para orientar como pensamos sobre a construção de qualquer nova tecnologia. Em vez de ultrapassar os limites o tempo todo, podemos construir a IA de uma forma que maximize os benefícios para as pessoas e o planeta e minimize os danos?
Nós desenvolvemos um processo robusto para isso na Careful Trouble, onde trabalhamos com conselhos e equipes seniores, começando com o mapeamento de como a IA pode ou não apoiar sua visão e valores; compreender onde os problemas são demasiado complexos e variáveis para serem melhorados pela automatização e onde esta irá criar benefícios; e, por último, desenvolver um quadro activo de gestão de riscos. O desenvolvimento responsável não é uma aplicação única de um conjunto de princípios, mas um processo contínuo de monitorização e mitigação. A implantação contínua e a adaptação social significam que a garantia de qualidade não pode ser algo que termina quando um produto é enviado; como desenvolvedores de IA, precisamos desenvolver a capacidade de detecção social iterativa e tratar o desenvolvimento e a implantação responsáveis como um processo vivo.
Como podem os investidores promover melhor uma IA responsável?
Fazendo investimentos mais pacientes, apoiando fundadores e equipes mais diversificadas e não buscando retornos exponenciais.
