Informação jurídica inteligente
 Brasil | +55 (11) 31 81 77 29

O Agente Algorítmico - Licença para Discriminar? (Um olhar sobre a seleção de candidatos a trabalhadores através de técnicas de inteligência artificial)

Document Citações 2 Citado por Related
Vincent
AutorMilena da Silva Rouxinol
Ocupação do AutorProfessora Auxiliar da Faculdade de Direito da Escola do Porto da Universidade Católica Portuguesa
Páginas347-365
OAALD
U


Milena da Silva Rouxinol(2)
O presentetexto foipublicado pelaprimeira vezna obraAAVVDireito Digitale InteligênciaArticialIn BARBOSA
MafaldaMirandaBRAGANETTOFelipeSILVAMichaelCésarFALEIROSJÚNIORJoséLuizdeMouracoordDiálogos Entre
Brasil e EuropaSãoPauloFocop
ProfessoraAuxiliardaFaculdadedeDireitodaEscoladoPortodaUniversidadeCatólicaPortuguesa
Euseiquealgunsalgoritmossãodiscriminatóriosporquecrieiumtraduçãodanossaresponsabilidade
O bloguechamase ScienticAmerican e o texto a cujo título se fez referência é datado de 31 de janeiro de 2020. Pode ser
consultadoemhpsblogsscienticamericancomvoicesiknowsomealgorithmsarebiasedbecauseicreatedone.
HOUSERKimberlyACanaisolvethediversityprobleminthetechindustry MitigatingNoiseandBias inEmployment
DecisionMakingStanford Technology Law Review, n. 22, p. 290-354, 2019.
TheparadoxofautomationasantibiasinterventionCardozo Law Review, n. 41, p. 1-55, 2020.
1. Introdução
“I know some algorithms are biased, because I created
one”(3)declaraocientistaNicolasTYoungnoseu
blogue(4) —. enquanto, por seu turno, numa publicação
quasecoevaKimberlyAHouser(5) explica como pode
ainteligênciaarticialmitigaroruído e o preconceito,
isto é, a discriminação, quando se trata de decidir
quem contratar para um emprego.
Parece, na verdade, inexistir qualquer insu-
perável antagonismo entre ambas as perspetivas.
Seráinjustoarmar queaaclamação dainteligência
articiale emespecial dasua utilizaçãono âmbito
da seleção de candidatos a emprego é mero canto de
sereia — tais ferramentas apresentam, na verdade,
vantagens não despiciendas —, mas, do mesmo passo,
importa lembrar que, pese embora a aparência criada
pela parte superior do corpo, uma sereia não é um ser
humano… Ou podemos dizê-lo parafraseando Ifeoma
Ajunwa(6)umalgoritmonãodeveservistocomoum
oráculo que tudo sabe, do alto da sua majestade ante
aingénuaintrepidezdequemointerpelaasabedoria
está em interrogá-lo e interpretá-lo com inteligência
e apuro crítico.
Nas linhas que se seguem, procuraremos, por
um lado, assinalar os benefícios que a utilização da
inteligênciaarticialpoderepresentarno âmbitoda
seleção de candidatos a trabalhadores, colocando o
acento tónico na sua aptidão para minorar o impulso
discriminatório que, quer dolosa quer inconsciente-
menteinquinafrequentemente tais decisõespor
outro, procuraremos explicar por que misteriosas vias
aquelainteligênciaarticialvema revelarseanal
articiosaredundandoosseusaparentementeasséti-
cos códigos binários em resultados cujo impacto sobre
sujeitos pertencentes a particulares categorias sociais
ébemdistintodovericadosobreaquelesforadetal
fronteira. É de discriminação, pois, também agora,
que falamos.
Pretendendoreetirsobre se e emquemedida
a utilização daqueles mecanismos tecnológicos
minora ou, ao contrário, potencia diferenciações de
duvidosa admissibilidade, não poderemos, por certo,
deixar de evidenciar alguns topoi de importância
crucial no contexto que aqui nos convoca do Direito
Antidiscriminação. Do mesmo modo, impõe-se levar
a cabo um conjunto de esclarecimentos terminológicos
no que respeita ao funcionamento dos algoritmos.
Tentaremos fazê-lo, com a natural consciência de que
falharemos, com toda a probabilidade, ao rigor da
linguagem tecnológica, mas também com o propósito
de escrever linhas que possam ser entendidas por quem
não domina as técnicas de programação informática.
Reconhecemos que “para prevenir o viés algorítmico,
Reforma Trabalhista.indb 347 03/06/2022 11:45:09
348
REFORMA TRABALHISTA: NOVAS TECNOLOGIAS EM TEMPOS DE PANDEMIA
asdeniçõesjurídica e técnica do que seja ‘justiça
algorítmicadeveriam alinharse(7), mas não é de tal
monta o nosso objetivo. Bastamo-nos com o propósito
queédesaantecustaencontrarumtextoquenão
sereraaos algoritmos como black boxes(8) — de, no
mencionado contexto da contratação laboral, procurar
explicarcomopode um robô cruzarocaminho do
princípio da igualdade. É por estes esclarecimentos
terminológico-conceptuais que principiaremos.
Consignaremosnalmentealgumasnotasbre-
ves às propostas que a doutrina vem apresentando
em vista da superação do problema da discriminação
emergente do uso de algoritmos, enquanto, do mes-
mopassoassinalaremosasdiculdadessentidas
Notasdeesclarecimentoterminológicoconceptual
Discernindoàsuperfícieassinapsesda
inteligênciaarticial
Um algoritmo — designação derivada do
matemáticopersaAlkhwarizmi(9) — é um sistema
computacional, ou de matemática aplicada(10), capaz
de tomar decisões, ou de dar respostas (output ou
outcomeatravésdainteligênciaarticialecombase
nos dados (input) que lhe são fornecidos. A decisão
algorítmica consiste na resposta a uma pergunta
(target variable), à qual o programador funcionaliza
o sistema, o que, evidentemente, implica traduzir o
propósito visado para linguagem computacional. É
necessário, por outro lado, fornecer-lhe um conjunto
XIANGAliceTopreventalgorithmicbiaslegalandtechnicaldenitionsaroundalgorithmicfairnessmustalignPartnership
in AI, marDisponívelemhpswwwpartnershiponaiorgtopreventalgorithmicbiaslegalandtechnicaldenitions
aroundalgorithmicfairnessmustalign. Veja-se, ainda, XIANGAliceRAJIInioluwaDeborahOn the Legal Compatibility of Fairness
DenitionsCornellUniversityDisponívelemhpswwwarxivvanitycompapers.
PorexemploHOUSERKimberlyACanAISolvecit., p. 340 e ss.
KNUTH Donald EAlgorithms inmodernmathematics andcomputerscience Computer Science Department — Stanford
UniversitypessDisponívelemhpsappsdticmildtictrfulltextuapdf
DonaldEKnuthOp. cit.) sublinha que a descrição do algoritmo como uma ferramenta informática põe em evidência não
tanto o sistema em si mesmo mas o equipamento através do qual opera.
Em particular sobreas correlações estabelecidaspor estes sistemasWILLIAMS BetsyAnneBROOKS CatherineF
SHMARGADYotamHowAlgorithms DiscriminateBasedon DataThey LackChallengesSolutions andPolicyImplications
Journal of Information Policy, n. 8, p. 78-115, 2018.
BAROCASSolonSELBSTAndrewDBig DatasdisparateimpactCalifornia Law Review, n. 104, p. 671-732, 2016. Podem
tambémencontrarse esclarecimentos acercadestes conceitos porexemplo em FrederikZuiderveen BORGESIUS Frederik
ZuiderveenDiscriminationarticialintelligenceandalgorithmicdecisionmakingCouncil of Europe p. 8 e ss.,Disponívelem
hpsrmcoeintdiscriminationarticialintelligenceandalgorithmicdecisionmakingdGANGADHARANSeeta
PeñaJĘDRZEJNiklasBetweenantidiscriminationanddataunderstandinghumanrightsdiscourseonautomateddiscrimination
in Europe. LSE — Department of Media and Communications,Londres  Disponívelem hpeprintslseacuk
Gangadharan_Between-antidiscrimination_Published.pdfRAUB McKenzie Botsbias and BigData articial intelligence
algorithmic bias and disparate impact liability in hiring practices. Arkansas Law Review, v. 71, n. 2, p. 529-570, 2018.
BAROCASSolonSELBSTAndrewDBigDatasdisparateimpactCalifornia Law Review, n. 104, p. 681 e ss., 2016
KINGAllanGMRKONICHMarkoJBigDataandtheriskofemploymentdiscriminationOklahoma Law Review, v. 68,
n. 3, p. 555-584, 2016.
de dados (training dataoudadosdetreinamentoo
sistema irá monitorizá-los (data mining, ou mineração
de dados) e aprender com eles (data learning), isto é,
captar as correlações entre eles(11) e, assim, criar pa-
drões, modelos (models), que vão possibilitar, então,
a associação de uma categoria, ou etiqueta (class label),
aos dados que se façam entrar no sistema(12). Um
dos exemplos mais comuns e também de mais fácil
compreensãoéodoalgoritmoqueltramensagens
de SPAM. Ao denunciarem determinada mensagem
como sendo desse tipo, os utilizadores fornecem ao
sistema algorítmico inserido nos respetivos equipa-
mentos eletrónicos informação sobre os conteúdos
a etiquetar dessa forma. Colhido um conjunto de
informações deste tipo, o algoritmo estabelece cor-
relações entre os conteúdos e a categorização dos
mesmos como SPAM ou não-SPAM e concebe um
modelo que lhe permitirá, automaticamente, fazer
essaclassicaçãoTodos sabemos com efeitoque
muitas das mensagens que, de facto, associamos a
esse tipo de conteúdo são remetidas para uma pasta
de SPAM que o sistema criou por nós, para não inqui-
narem as nossas caixas de correio. Sabemos também,
contudo, que às vezes vai para a pasta do SPAM uma
mensagem na qual temos interesse e que jamais,
com a nossa inteligência humana, etiquetaríamos
desse modo(13)… É que o algoritmo, embora capaz
de estabelecer correlações, não as distingue de uma
relação de causa-efeito(14). Portanto, uma mensagem é
classicadacomoSPAM por apresentar traços que a
correlacionam com as anteriormente etiquetadas des-
sa forma e não por ser, efetivamente, SPAM. De resto,
Reforma Trabalhista.indb 348 03/06/2022 11:45:09

Para continuar a ler

PEÇA SUA AVALIAÇÃO

VLEX uses login cookies to provide you with a better browsing experience. If you click on 'Accept' or continue browsing this site we consider that you accept our cookie policy. ACCEPT