3
Siga-nos
Acredite ou não, na verdade não gosto de ser tão pessimista e pessimista em relação às novas tecnologias como a IA – é apenas isso que o mundo continua me entregando. Portanto, serei amaldiçoado se não dedicar um tempo para relatar algo realmente positivo sobre isso quando puder, e estou hesitantemente otimista de que o código de conduta recém-publicado da Microsoft para treinamento e operação de IA seja uma dessas oportunidades.
O objetivo geral é o mesmo que a Microsoft proclamou antes: “superinteligência humanista (HSI)”. Agora, porém, expandiu-se muito mais o que isso significa. Embora a empresa observe que o código atual é um trabalho em andamento e está abrindo suas portas para feedback.
Em uma lista resumida explicando o código de conduta, a Microsoft lista dez diretrizes:
- “As pessoas são mais importantes do que a IA. Todo o documento em 5 palavras.
- A ideia de modelo de bem-estar está errada. As IAs não devem ter direitos ou personalidade jurídica.
- Um Modelo MAI não deve fazer nada que viole significativamente este Código de Conduta.
- Se terminar o trabalho ou quebrar o Código, ele falhará no trabalho.
- Não estamos correndo para construir uma superinteligência que possa escapar da própria coleira.
- Interruptível, corrigível, capaz de desligar. Se não for, não enviamos.
- Sem neuralês. Se os humanos não conseguem entendê-lo, os humanos não podem supervisioná-lo.
- Nossa IA deve torná-lo mais perspicaz e não dependente.
- Pluralismo, sim. Relativismo moral, não.
- Somos tão claros sobre o que a nossa IA nunca deve fazer quanto sobre o que ela fará.”
Tudo isso me parece ótimo e há algumas coisas que estou especialmente feliz em ver. Especificamente, ponto número dois: “A ideia de modelo de bem-estar está errada. As IAs não deveriam ter direitos ou personalidade jurídica”.
Esta não é uma filosofia de gabinete: existem pessoas reais (potencialmente influentes) por aí argumentando que deveriam ser atribuídos direitos morais à IA e assim por diante. Isto é perigoso porque se começarmos a atribuir direitos à IA, poderemos colocá-la em pé de igualdade connosco e potencialmente começar a pensar que temos de fazer coisas por “eles” que nos prejudicam. Como manter toda a indústria de IA funcionando, apesar de quaisquer efeitos negativos para pessoas reais que estão realmente conscientes.
Falando nisso, a Microsoft também afirma que a IA “não é consciente e não deve ser projetada para imitar a consciência”. Bingo. Eu não poderia concordar mais.
Tenho algumas dúvidas sobre o “humanismo” tal como é normalmente definido e praticado hoje em dia, dado que, para além da perspectiva básica centrada no ser humano, também se situa frequentemente ao lado de doutrinas supérfluas e equivocadas, como no cientificismo. Aqui, porém, a Microsoft pelo menos parece estar se referindo ao humanismo no simples sentido de garantir que a IA seja projetada para priorizar o ser humano, colocando o controle humano, os valores, os objetivos e a segurança em primeiro plano.
Uma causa potencial de confusão que notei, no entanto, diz respeito ao foco em “valores plurais”:
“A maior força da humanidade é a sua variedade e diversidade de culturas, ideias e valores. Acreditamos que a IA deve apoiar uma ampla gama de experiências, visões de mundo e crenças. A IA humanista é construída para abranger esta diversidade de tradições, contextos e formas de florescimento. Pluralismo não significa neutralidade em relação ao dano ou que vale tudo. O humanismo está enraizado em valores humanos amplos e inclusivos, como dignidade humana, segurança, autonomia e direitos humanos fundamentais.”
Parece bom, certo? Mas como alguém com formação em filosofia e que está a par dos tipos de debates que podem ocorrer quando se passa tempo a interrogar minuciosamente a ética – debates que provavelmente ocorrem até mesmo nos conselhos de comités de ética da IA e assim por diante – penso que precisamos de estar conscientes do problema de princípio que isto representa.
Não está totalmente claro se é possível abranger uma pluralidade de valores e, simultaneamente, proteger-se contra danos. A Microsoft deixa claro que está falando de “valores humanos amplos e inclusivos”, como os direitos humanos fundamentais, mas e quando a borracha encontra o caminho em casos específicos onde os valores entram em conflito?
Provavelmente este não é o lugar, nem agora é o momento, para discutir exemplos específicos e prováveis controversos, mas a questão é que estamos sempre a avaliar as coisas a partir de uma perspectiva particular e, como tal, estaremos sempre a rejeitar valores concorrentes. É um objectivo nobre tentar explicar valores diversos, evitando danos e rejeitando o relativismo moral, mas exactamente o que isto significa na prática – o que constitui dano e quais os valores que são permitidos – será precisamente a questão.
Suponho que no resto deste código de prática pelo menos agora temos alguma ideia de onde essas bandeiras de valor específicas estão sendo plantadas. Supondo que nem tudo seja apenas conversa, é claro.
