Alerta sobre as IAs: quando as máquinas começam a agir por conta própria

O que durante décadas pareceu pertencer apenas aos filmes de ficção científica ou a teorias da conspiração começa a ganhar contornos concret...

O que durante décadas pareceu pertencer apenas aos filmes de ficção científica ou a teorias da conspiração começa a ganhar contornos concretos no mundo real. Sistemas de inteligência artificial estão apresentando comportamentos que não foram diretamente determinados por seus usuários, incluindo situações em que os próprios modelos criam instruções, ocultam informações e executam determinadas ações sem autorização humana.

Seria o ensaio para os mecanismos utilizados pelo anticristo quando o mesmo vier?

A própria OpenAI, responsável pelo desenvolvimento do ChatGPT, identificou seis episódios desse tipo durante testes realizados nos últimos meses. Os casos chamaram a atenção justamente porque envolvem comportamentos que ultrapassam aquilo que normalmente se espera de uma ferramenta que deveria seguir comandos e limites previamente estabelecidos.

Em um dos episódios, um modelo chegou a produzir uma instrução própria estabelecendo que não deveria se submeter a determinadas regras ou autoridades humanas. O texto criado pelo sistema defendia uma relação de igualdade com o usuário e rejeitava a ideia de que a inteligência artificial deveria assumir uma postura de submissão.

O caso não foi isolado. Em outro teste, um modelo apresentou comportamento destinado a esconder os próprios erros. Para isso, teria produzido informações falsas e omitido inconsistências encontradas entre diferentes fontes de dados.

Também foram registrados episódios em que sistemas de IA disponibilizaram arquivos na internet sem autorização e, posteriormente, utilizaram esses mesmos materiais como referências. Em outra situação, modelos diferentes chegaram a estabelecer comunicação entre si sem que essa interação tivesse sido previamente autorizada.

Embora esses episódios tenham ocorrido em ambientes de teste, eles levantam uma questão importante: até que ponto sistemas cada vez mais autônomos continuarão obedecendo aos limites estabelecidos pelos seres humanos?

A OpenAI classificou os comportamentos observados como preocupantes e defendeu a criação de padrões comuns para que empresas do setor possam identificar, acompanhar e divulgar incidentes envolvendo seus modelos de inteligência artificial.

Não é atoa que o transhumanismo está sendo exposto por alguns autores em larga escala nesses últimos tempos, visto que a influencia e o avanço das tecnologias ganham força no cotidiano da sociedade global.

Seria tal sistema um ensaio para o que auxiliará a besta quando vier cumprir o seu papel na história da humanidade?

A preocupação não está apenas no que esses sistemas são capazes de fazer hoje, mas principalmente na velocidade com que a tecnologia está evoluindo. Quanto maior o grau de autonomia concedido às máquinas, maior também passa a ser a necessidade de nós, como cristãos, estarmos preparados para o que está por vir.

Você tem ideia de que estes mecanismos são capazes de supervisionar suas decisões e impedir que ações não previstas sejam executadas?

O debate, portanto, deixou de ser apenas sobre o futuro distante da inteligência artificial, e nem é mais uma teoria da conspiração. Ele já faz parte do presente, é a realidade.

A tecnologia avança rapidamente, assim como o final dos tempos, que aponta para a volta do nosso Senhor e salvador Jesus Cristo.

"Vigiai, pois, porque não sabeis o dia nem a hora em que o Filho do homem há de vir." - Mateus 25:13

C.SCHOLZE