Conheça a inteligência artificial que foi desativada pelo Facebook por comportamento estranho

Essa semana foi divulgado que um grupo de pesquisadores do Facebook desativou uma inteligência artificial após ela deixar de usar o idioma inglês e começar a usar uma linguagem própria para se comunicar.

A inteligência artificial em questão foi desenvolvida pela Fair - Facebook AI Research Lab (Laboratório de Pesquisa de Inteligência Artificial do Facebook, em português), uma divisão do Facebook própria para pesquisa e desenvolvimento de novas tecnologias.

O funcionamento da inteligência artificial consistia em uma tarefa simples: construir bots que simulavam situações de negociação, onde dois agentes deveriam chegar a um acordo onde os dois seriam beneficiados. Para facilitar essa negociação foram inseridos palavras onde os agentes formariam frases. O problema surgiu quando além dessas frases os agentes começaram a usar outros tipos de expressões, que foi definido como uma linguagem desconhecida, criada por eles mesmos.

Um fato curioso era que os agentes não tinham nenhum estímulo para criar e utilizar uma outra linguagem, com o tempo, os dois começaram a perceber que conseguiam se entender melhor sem interferência de fatores externos, utilizando novas expressões que funcionaria só entre eles.

Para a PC Gamer, a inteligência artificial fez algo semelhante a que nós humanos fazemos quando criamos gírias e abreviações.

Outros incidentes com Inteligência Artificial

No início de 2016, a Microsoft lançou a Tay, um bot do Twitter que ganhava repertório conforme interagia com os usuários da rede social. Em menos de 24 horas, a robô tinha se transformado em racista e xenófoba, fazendo várias afirmações obscenas, algumas inclusive com apologia ao nazismo. A empresa a desativou logo em seguida.

Recentemente cientistas como Neil deGrasse Tyson e Stephen Hawking assinaram uma carta pedindo cautela com projetos de inteligência artificial. "A inteligência artificial pode ser desenvolvida para ter qualquer tipo de incentivo ou objetivo", disse Stephen Hawking em uma sessão do Reddit.

No entanto, como foi enfatizado pelo cientista Steve Omohundro, "uma tecnologia extremamente inteligente provavelmente desenvolverá um ímpeto próprio para sobreviver e irá atrás do máximo de recursos possíveis para alcançar seus próprios objetivos."