Nós usamos cookies e outras tecnologias semelhantes para melhorar a sua experiência em nossos serviços, personalizar publicidade e recomendar conteúdo de seu interesse. Ao utilizar nossos serviços, você está ciente dessa funcionalidade. Conheça nosso Portal da Privacidade e consulte nossa Política de Privacidade. Clique aqui para ver

Como sites de busca de empregos como LinkedIn, ZipRecruiter e Indeed usam IA

Troy George queria encontrar um emprego como gerente de fábrica, então ele foi a vários locais de trabalho, incluindo o ZipRecruiter. Mas o site enviou a ele avisos sobre empregos de secretária, cargos de zelador e funções de gerenciamento em locais com plantas vivas reais.

“Foi tão ridículo, quase cômico”, disse George, 49, de Toledo. “Pegou ‘planta’ em seus dois significados diferentes.”

Nos últimos sete anos, George usou regularmente vários sites de recrutamento. Depois que a pandemia estimulou mais flexibilidade nas locações, a caixa de entrada de George foi inundada com recomendações de empregos, muitas das quais sombrias, disse ele. Quando encontrava uma abertura interessante, muitas vezes não recebia resposta.

Candidatos a emprego como George dizem que estão cada vez mais lutando para encontrar empregos e cortar centenas de aplicativos direcionados para uma vaga em sites populares como Indeed, ZipRecruiter e LinkedIn. Muitos estão convencidos de que os recursos de compatibilidade de trabalho alimentados por inteligência artificial nesses sites nem sempre funcionam a seu favor. Em alguns casos, os sistemas de recomendação de IA usam informações históricas de emprego, como quem os empregadores normalmente enviam mensagens, gostam e entrevistam; suas buscas anteriores; e os perfis nos quais eles clicaram para corresponder ou classificar os candidatos – não apenas as qualificações de um candidato.

As empresas usaram IA para limpar currículos. Agora, alguns começaram a usar IA para avaliar suas habilidades de entrevista. (Vídeo: Monica Rodman/The Washington Post)

Especialistas que estudam IA dizem que a maneira como os candidatos são correspondidos pode se tornar mais complicada à medida que uma IA mais avançada é adicionada. Isso pode significar que alguns candidatos não serão recomendados como a melhor opção para um trabalho com base apenas nas qualificações.

“É uma área que nos preocupa muito. Se você tem acesso negado a empregos, isso tem um grande impacto na subsistência das pessoas, disse Adriano Koshiyama, codiretor de governança, risco e conformidade de IA da empresa de software Holistic AI, referindo-se a empregos em geral.

Conte-nos sobre sua experiência de procura de emprego.

Kristin Randle, uma especialista em projetos de TI em Sarasota, Flórida, disse que muitas vezes se sentia como se estivesse enterrada nos sistemas do local de trabalho e era desencorajada pelo grande número de candidatos que via se candidatando a um emprego.

“Ficou tão frustrante que finalmente desisti”, disse ela, acrescentando que acabou conseguindo um emprego de tempo integral com um empregador com o qual havia contratado anteriormente.

LinkedIn, Indeed e ZipRecruiter tiveram o maior tráfego entre sites de empregos nos Estados Unidos nos primeiros seis meses deste ano, atraindo coletivamente quase 790 milhões de visitas, de acordo com a empresa de análise da web Similarweb. Seu objetivo é combinar rapidamente os candidatos com os relevantes empregos pois são qualificados ou talvez não tenha pensado nisso antes. Da mesma forma, eles esperam reduzir o tempo que os empregadores gastam procurando e contratando trabalhadores.

Os locais de trabalho dizem que seus sistemas de correspondência de IA nem sempre são perfeitos. Embora os candidatos não sejam desqualificados ou rejeitados com base no desempenho anterior de um empregador no site, isso pode influenciar a recomendação da AI.

“Alguém pode se sentir qualificado, mas com base nas tendências de contratação anteriores, essa pessoa pode não estar na bolha para ser o número um”, disse Scott Dobroski, especialista em tendências de carreira do Indeed. “Mas isso também pode acontecer com o modelo antigo [of hiring] apenas com o homem.”

A IA do ZipRecruiter baseia suas decisões nos bilhões de pontos de dados coletados de empregadores e candidatos a empregos nos últimos 13 anos em que está em operação. Ele imita o que os empregadores de tamanhos e tipos específicos normalmente fazem em seu site.

“O aprendizado de máquina é baseado no comportamento humano”, disse Jen Ringel, vice-presidente sênior de produtos da ZipRecruiter. “Portanto, cabe a nós fazer o máximo que pudermos para educar os empregadores. Mas é complicado.”

Os algoritmos dos sites levam em consideração as habilidades e a experiência do candidato e, em alguns casos, as vagas que ele pesquisou, clicou ou se candidatou. Os algoritmos de alguns sites identificam as melhores correspondências para os empregadores com base em pesquisas anteriores, o tipo de candidatos de quem eles geralmente buscam mais informações e quem se saiu bem no passado. Não está claro quanto peso os algoritmos dão às habilidades e qualificações em comparação com o comportamento na web.

“Estamos tentando fazer o máximo possível para remover o máximo de etapas de um processo de contratação bastante interrompido e fazer com que candidatos a emprego e empregadores conversem rapidamente”, disse Ringel.

Mas o potencial de viés baseado no comportamento de contratação anterior dos empregadores é muito real e às vezes difícil de identificar porque pode estar emaranhado com correlações estatísticas, disse Manish Raghavan, professor assistente de tecnologia da informação e ciência da computação na MIT Sloan School of Management. Por exemplo, a IA pode parecer tendenciosa a combinar principalmente graduados de Harvard com determinados empregos, quando esses graduados podem ter uma probabilidade maior de atender a determinados requisitos. Os humanos já lutam contra preconceitos implícitos, geralmente favorecendo pessoas como eles, e isso pode ser replicado com a IA.

“É muito difícil evitar que isso aconteça”, disse Raghavan, acrescentando que a maioria dos serviços está ciente dos possíveis problemas. “Mas não há uma solução universal.”

A IA também tem o potencial de criar regras com base em padrões históricos sem que ninguém saiba quais são essas regras, dificultando a correção, acrescentou.

Sameer Maskey, professor adjunto de aprendizado de máquina e IA na Universidade de Columbia, mostra à Amazon um exemplo de como a IA pode gerar viés na contratação. Em 2018, a gigante da tecnologia abandonou sua ferramenta experimental de recrutamento de IA porque favorecia homens para trabalhos de tecnologia, já que a maioria das contratações anteriores eram homens. de acordo com a Reuters. É necessário um esforço concentrado para garantir que os dados de treinamento já não sejam tendenciosos, disse ele. Na época, a Amazon disse que seus recrutadores nunca haviam usado a tecnologia em candidatos reais.

(O fundador da Amazon, Jeff Bezos, é dono do The Washington Post, e a CEO interina, Patty Stonesifer, faz parte do conselho da Amazon.)

“Se você usar dados históricos cegamente e não investigar cuidadosamente se o viés se insinuou em seu sistema de contratação, ele se tornará um sistema de IA tendencioso”, disse Maskey sobre o software de contratação. “Os candidatos estão certos em se preocupar.”

As plataformas dizem que estão tomando medidas para combater o viés algorítmico. O ZipRecruiter retreina regularmente seus sistemas com novos dados, dando mais peso aos dados atuais e limpa informações de identificação pessoal, como nomes completos e sexo, disse Ringel. Cerca de 300 pessoas trabalham em IA e aprendizado de máquina para matchmaking do Indeed, e seu diretor de ética de IA se concentra em tempo integral nessa questão, disse.

Hired.com, um site fortemente focado em empregos de vendas e tecnologia, usa correspondência de IA para ajudar os empregadores a encontrar candidatos, mas não para combinar vagas com candidatos a emprego. A Hired disse que rebaixa candidatos qualificados apenas se as ações de um empregador sugerirem que não está interessado. Seu sistema permite que os empregadores ocultem nomes e fotos de perfil dos candidatos e é revisado anualmente pela Holistic AI, que avalia tecnicamente se uma empresa possui mecanismos para prevenir, detectar e corrigir vieses algorítmicos e quão eficazes eles são.

“Todo empregador se beneficia do treinamento geral de nossos modelos”, disse Dave Walters, diretor de tecnologia da Hired. “Mesmo que houvesse um pequeno subconjunto de nossa população de empregadores que tivesse algum viés subjacente em suas pesquisas, o modelo geral é treinado em todos os dados, o que evita qualquer mudança significativa”.

O LinkedIn diz que está construindo ferramentas para promover resultados justos. Em 2018, a empresa ajustou seu mecanismo de busca de recrutadores para refletir melhor a mistura de gênero dos candidatos em cada página de resultados. Então, no ano passado, estreou um recurso que incentiva os recrutadores a ampliar seus filtros se menos de 45% dos resultados forem masculinos ou femininos.

Os locais de trabalho podem em breve adicionar tecnologias mais avançadas, incluindo IA generativa, o que pode tornar o potencial de viés mais complicado de encontrar e corrigir.

De fato, diz que a correspondência de empregos é o futuro do emprego e que a IA generativa pode ajudar. Dobroski disse que a empresa fez parceria com o Google para explorar o uso da ferramenta de IA generativa Bard para melhor corresponder e ajudar os candidatos a entender o que priorizar em seus perfis. Ringel, da ZipRecruiter, vê um futuro em que a IA generativa pode ser usada para explicar por que o serviço recomenda determinados empregos, para preparação de entrevistas ou até mesmo para ajudar a rotular dados de treinamento para seus modelos de IA. Ambos veem isso como uma maneira de facilitar a redação de currículos e descrições de cargos.

Mas a IA avançada também pode tornar mais difícil entender por que os sistemas tomam as decisões que tomam.

“Muitos clientes de tecnologia de RH… usam algoritmos decentemente explicáveis”, disse Koshiyama, da Holistic AI. “Daqui a três anos, eu me preocuparia com a transparência.”

Os candidatos a emprego devem se preparar para ver a IA em mais áreas do processo de contratação, disse Maskey, da Columbia, que também é CEO da empresa de IA Fusemachines. E bons dados de treinamento e verificações e contrapesos para viés se tornarão ainda mais importantes.

“Chegará a um ponto em que, se houvesse mil candidatos, [the AI] pode entrevistar todos os 1.000 via Zoom”, disse ele. “Esteja preparado para isso.”

Quanto a George, ele diz que teve muito mais sorte em contatar as pessoas diretamente do que depender desses empregos.

“Existe o bem e o mal neles”, disse ele. “Não vou parar de usá-los, mas também não vou colocar todas as minhas fichas neles.”