Enquanto se espera que a aplicação da IA em todos os campos industriais resolva questões sociais em todo o mundo, perspectivas éticas estão se tornando uma questão sobre como a IA deve ser usada.

O objetivo da Fujitsu é “tornar o mundo mais sustentável, construindo confiança na sociedade através da inovação”.

A fim de acelerar a penetração de tecnologias de ponta na sociedade e garantir a confiança, em fevereiro de 2022 a Fujitsu estabeleceu o Escritório de Ética e Governança da IA como um posto de comando de grupo para a promoção da ética da IA.

O escritório foi criado para fortalecer a “confiança” na Fujitsu, implementando medidas para promover ativamente a ética relacionada à pesquisa, ao desenvolvimento e à implementação de tecnologias avançadas.

Qual é o objetivo da ética da IA? Como devemos promover a governança para utilizar a inteligência artificial responsável e confiável? Entrevistamos Junichi Arahori, Chefe do Escritório de Ética e Governança da IA, o iniciador desta organização.

A “Ética da IA” é necessária agora para maximizar o valor da IA

O que você pensa sobre as razões da atual demanda global pela ética da IA?

Arahori: A IA é certamente uma ferramenta maravilhosa, mas, por outro lado, várias ameaças e inconvenientes foram relatados. Há um debate crescente sobre o fortalecimento da regulamentação da IA contra o oligopólio das gigantescas empresas de TI, a invasão da privacidade pela IA, e a manipulação da opinião pública e do escrutínio público.

A IA aprende com grandes quantidades de dados, capta estatisticamente suas tendências e faz previsões. Portanto, enquanto as tendências são calculadas para toda a população, a individualidade de cada pessoa pode ser descartada. Além disso, se os dados usados para treinar a IA têm um viés inerente, os resultados que ela produz também podem ter um viés prejudicial ou discriminatório.

Por exemplo, há um caso de um serviço de AI para um teste de recrutamento. Quando uma empresa introduziu este serviço para avaliação de candidaturas a emprego, a empresa ficou embaraçada porque apenas homens foram submetidos ao teste de entrevista. Em seguida, os dados de treinamento foram examinados e constatou-se que tinha um viés inerente – a empresa tinha contratado mais homens do que mulheres no passado. Como resultado, a recomendação da IA foi fortemente tendenciosa em relação aos homens. Este caso pode facilmente acontecer.

Se usarmos a IA cegamente sem entender suas características ou corrigir preconceitos, tomaremos decisões prejudiciais ou discriminatórias. Isso será causa de injustiça e desigualdade.

Isso significa que os desenvolvedores de IA e as empresas que usam IA precisarão cada vez mais ter altos padrões éticos a fim de evitar problemas causados pela natureza da IA e pelo mau uso humano.

Arahori: Sim, a IA é uma ferramenta útil que pode contribuir para o desenvolvimento e evolução da sociedade humana e, em última instância, para a realização dos SDGs. A IA pode certamente contribuir muito para a saúde, o bem-estar, a prevenção da mudança climática e a realização de uma sociedade equitativa.

Entretanto, se usarmos cegamente as previsões da IA, como no exemplo anterior de preconceito de gênero, poderemos cometer erros graves em nossas decisões. Então, a ética é necessária para o uso da IA, que se baseia na privacidade e nos direitos humanos.

É por isso que as empresas que desenvolvem, fornecem ou usam IA precisam promover a governança e educação ética para seus funcionários. É o primeiro passo para que todos os funcionários compreendam as vantagens e desvantagens a partir da perspectiva da ética, de modo que os usuários finais também compreendam a verdadeira natureza da IA e reconheçam a possibilidade de problemas. Finalmente, podemos fazer uso de suas vantagens.

Quais são as tendências internacionais atuais na ética de IA?

Arahori: Na verdade, o tema da ética da IA não é um tema novo. Há vários anos, a necessidade de considerar perspectivas éticas ao utilizar a IA tem sido enfatizada. Ao mesmo tempo, a IA tem se tornado cada vez mais difundida na sociedade onde os consumidores desconhecem seu uso.

Portanto, é necessário para nós fazer um apelo mais forte para a importância da ética da IA para o mundo neste momento.

A governança ética da IA faz um futuro próspero ao integrar a administração e o campo

Arahori-san, você é o chefe do Escritório de Ética e Governança da IA, que foi estabelecido em fevereiro de 2022. Você pode nos falar sobre a missão de sua organização?

Arahori: Claro. Até agora, a Pesquisa & Desenvolvimento e as equipes de negócios e a divisão Jurídica trabalharam em estreita colaboração para promover iniciativas éticas. Nossa nova organização, o Escritório de Ética e Governança de AI, tenta fortalecer ainda mais nossos esforços em toda a empresa e de forma abrangente.

A missão corporativa da Fujitsu é “tornar o mundo mais sustentável, construindo confiança na sociedade através da inovação”. O “Compromisso AI do Grupo Fujitsu” é um bom exemplo deste Objetivo em termos da aplicação da AI. E a missão do Escritório de Ética e Governança da IA é promover o compromisso do Grupo Fujitsu de formas concretas para a autodisciplina.

Escolhemos o nome “AI Ethics and Governance Office” para a nova organização porque queríamos enfatizar ao mundo a importância da governança ética da IA nas empresas, criando uma organização com esse nome (“AI Ethics Governance”). Governança ética significa a criação de mecanismos que permitam a autodisciplina prática da ética conceitual. Em uma era de IA generalizada, as empresas certamente serão obrigadas a abordar a ética da IA. A Fujitsu espera criar uma sociedade segura e protegida, disciplinando sua própria organização, desde a administração até os funcionários, e divulgando seu compromisso também para com a sociedade.

Uma das abordagens únicas da Fujitsu à governança na governança da ética de IA não é colocar a responsabilidade pela ética de IA somente nas linhas de frente, tais como P&D e divisões comerciais de IA. Ao contrário, acreditamos que é a gerência que deve ter um profundo entendimento da ética de IA e ser capaz de falar sobre ela para ser confiável como uma empresa que fornece IA. Por esta razão, estabelecemos o Escritório de Ética e Governança da IA como uma organização sob a divisão corporativa, e adotamos a abordagem de ter o próprio presidente participando das discussões sobre a governança ética da IA e refletindo-as para a gerência.

Nosso negócio abrange software, prestação de serviços de TI, integração de sistemas e outras tecnologias de ponta. Os setores industriais aos quais entregamos também são variados. Portanto, é ineficiente aplicar um único conjunto de regras de diretrizes éticas para os locais de trabalho de linha de frente. Portanto, em vez de simplesmente impor regras rígidas, estamos trabalhando com empresas que usam IA para examinar maneiras diversas e ágeis de cooperar na defesa da ética.

Na verdade, ainda não há muitas empresas no mundo que tenham uma organização especializada em governança ética da IA. O Escritório de Ética e Governança da IA foi estabelecido pela Fujitsu em resposta à necessidade de mudar de marcha e trabalhar em um ritmo mais rápido para alcançar uma sociedade sustentável através da utilização da IA. O Escritório de Ética e Governança da IA promoverá uma melhor governança da ética da IA em todo o Grupo Fujitsu.

Portanto, esta é uma iniciativa avançada, mesmo no mundo. A propósito, Arahori-san mencionou anteriormente o “Compromisso AI do Grupo Fujitsu”. Em 2019, a Fujitsu anunciou o “Compromisso AI”, incorporando os princípios estabelecidos pelo AI4People, um fórum global sobre ética AI originado na Europa. Arahori-san, você também é o iniciador do “Compromisso AI”, correto?

Arahori: Sim, eu sugeri estabelecer o compromisso. Comecei este trabalho como voluntário. Eu pertencia originalmente à divisão Jurídica, e minhas principais funções eram revisão de contratos e M&A. Mais tarde, por volta de 2016, quando a ética da IA começou a ser discutida na Europa e nos EUA, eu estava designado para Washington, D.C.

Muitas pessoas pensam na Califórnia quando pensam em empresas de tecnologia nos EUA. Na verdade, a maioria das leis e regulamentos relacionados à tecnologia são decididos em Washington, D.C., não na Califórnia. Naqueles dias, particularmente temas quentes a serem debatidos em Washington, D.C., eram “Como devemos utilizar a IA em nossa sociedade?” e “Como podemos evitar os problemas da IA?

Testemunhando tais discussões na linha de frente, eu senti fortemente que a sociedade japonesa definitivamente precisaria pensar em medidas preventivas antes que a IA causasse qualquer problema, então comecei a trabalhar na ética da IA por conta própria assim que retornei ao Japão.

Na época, não havia ninguém ao redor que estivesse trabalhando na ética AI como um trabalho, então comecei gradualmente a organizar sessões de estudo com um grupo de voluntários das divisões de pesquisa e negócios da Fujitsu que crescia lentamente. Além disso, a Fujitsu Research of Europe foi um membro fundador da AI4People e, portanto, referenciamos suas realizações e resumimos nosso novo compromisso. A gerência concordou em afirmar claramente a ética da Fujitsu em relação à IA e anunciou como o “AI Commitment” dentro de três meses.

A criação do “Escritório de Ética e Governança da IA” segue o “Compromisso AI”. Como essa sua atividade de ética da IA se expandirá no futuro?

Arahori: Continuaremos a dizer ao mundo que a governança da ética da IA é importante para o futuro da sociedade. Acreditamos que é a melhor maneira de criar uma atmosfera na qual é natural que todos pensem juntos sobre a ética da IA, desde os provedores e as empresas que usam a IA para interagir com os consumidores.

Estou certo de que muitas empresas que usam a IA compartilham o mesmo desejo de oferecer conveniência aos consumidores através de um sistema seguro e de criar uma sociedade próspera. Portanto, gostaríamos de trabalhar em conjunto com empresas que usam a IA para aprender sobre sua ética e criar um sistema para proteger os consumidores.

Fornecer vínculos entre tecnologia e humanos é um trabalho honrado

Sinto um entusiasmo extraordinário por seus esforços até hoje. Qual é a fonte de sua motivação?

Arahori: Sempre me interessei por computadores, incluindo a construção de meus próprios computadores. Eu gosto de novas tecnologias. Não sou bom em matemática, portanto não poderia me tornar um engenheiro, mas achei gratificante estar envolvido em mudar o mundo usando novas tecnologias. A IA pode ser muito útil se usada de uma boa maneira.

Você está certo.

Arahori: A propósito, eu amo as bicicletas desde que era criança. Amo as bicicletas porque multiplicam muitas vezes o poder das minhas pernas. Eu amo as possibilidades que me dão. Essa é uma característica comum nas tecnologias, incluindo a IA. O que uma pessoa pode fazer é limitado, mas eu acho que a tecnologia abre novas possibilidades. Como você deve saber, Steve Jobs disse: “Um computador é uma bicicleta para a mente”.

Nessa luz, a forma como utilizamos a tecnologia é importante.

Arahori: Eu concordo. É muito importante encontrar uma maneira de conectar tecnologia e seres humanos. Meu trabalho é pensar em maneiras de fazer isso, e quero criar uma cultura de confiança na tecnologia em vez de restringi-la com a ética da IA.

Também acredito que pensar sobre o uso correto da IA, falar sobre ela e se livrar das regulamentações que restringem desnecessariamente a IA contribuirá, em última instância, para apoiar a inovação entre os engenheiros. Eu gostaria de continuar a fazer isso.