IA E HUMANOS – COOPERAÇÃO OU DESPIQUE?
Há quatro décadas, o mundo esteve por um fio para o deflagrar da Terceira Guerra Mundial, logo após a mensagem emitida pelo computador soviético Krokus a indicar o lançamento de um míssil contra a Rússia, disparado da base norte-americana de Montana. Nessa madrugada de 26 de Setembro de 1983, a equipa militar a trabalhar no bunker russo ‘Serpukhov 15’, responsável por vigiar qualquer movimentação suspeita no arsenal militar norte-americano, registou na sua máquina mais sofisticada aquela agressão semi expectável por parte da potência arquirrival.
Além de a máquina Krokus ser considerada infalível, a tensão política da época não destoava do ataque, com a bem sucedida sabotagem norte-americana aos avanços das tropas soviéticas no Afeganistão (por recurso a Osama bin Laden e a outros líderes guerrilheiros anti invasão russa), a declaração pública do Presidente Ronald Reagan a acusar a União Soviética de personificar o «Império do Mal», o investimento substancial dos EUA em defesa, a somar aos exercícios da NATO na simulação de cenários de conflito nuclear. Por seu turno, o Presidente russo Jurij Andropov denunciara o que considerava ser a escalada, sem precedentes, da maior crise entre as duas superpotências da Guerra Fria. Os serviços secretos do Pacto de Varsóvia continuavam a influenciar os grupos pacifistas ocidentais híper críticos do Ocidente (apenas!, como lembrava Miterrand) na corrida às armas nucleares, além de desferirem outros golpes corrosivos para a economia e a coesão social das democracias ocidentais, sobretudo via braços sindicais extremistas e partidos políticos de extrema esquerda (à época). No dia 1 de Setembro desse ano de 1983, os soviéticos chegaram a alvejar um avião comercial das Korean Air Lines, quando sobrevoava a península de Kamchatka, vitimando os 269 passageiros.
Foi nesse ambiente internacional de hostilidade acintosa que o chefe de turno do bunker russo – o tenente-coronel Stanislav Evgrafovich Petrov – detectou a mensagem de disparo do míssil norte-americano. Em vez de cumprir o protocolo e dar o alerta imediato aos superiores para o lançamento de mísseis contra os EUA, Petrov preferiu esperar, admitindo a probabilidade de ser um falso alarme, até pela alta improbabilidade de um ataque através de um míssil isolado, de reduzido efeito bélico. Porém, a máquina informou do lançamento de mais quatro mísseis mortíferos. Já não era um disparo solitário, embora em número ainda insuficiente para uma ofensiva eficiente. Percebendo o risco de estar a desencadear um confronto destrutivo para o planeta com base em possíveis erros electrónicos, Petrov voltou a ignorar os alertas surgidos no seu monitor, para espanto e enorme desconforto dos outros oficiais russos. Decidiu não dar o alarme antes de os radares terrestres corroborarem a aproximação das armas, pois continuavam sem sequer as detectar. Como os mísseis intercontinentais atingem o alvo em menos de meia hora, passado esse tempo mínimo ficou evidente para todos a inexistência dos disparos indicados pelo potente aparelho Krokus. Apurou-se, mais tarde, que o erro se devia a um fenómeno raro de refração da luz solar, que incidira sobre nuvens a alta altitude. Em conclusão: só a inteligência humana tinha sido capaz de ver para além da máquina, apercebendo-se do provável ferro mecânico e assim poupando o mundo a uma catástrofe nuclear. Só o sábio escrutínio humano ao automatismo electrónico pudera salvar a humanidade!
Este episódio só veio a público no início da década de 1990, depois da implosão da URSS. Petrov, que viveu até 2017, comentava com enorme humildade o seu papel naquela noite histórica, no bunker soviético: «o que eu fiz? Nada de especial, apenas o meu trabalho. Eu fui o homem certo, no lugar certo, à hora certa».
A necessidade da supervisão humana à máquina, comprovada na arrojada decisão de Petrov, aplicam-se em cheio à IA, capaz de produzir conteúdos interessantes e cumprir tarefas utilíssimas, mas também de errar clamorosamente. Como recomendam filósofos, sociólogos e o próprio Papa: a IA precisa do factor humano. Na mensagem para o Dia Mundial da Paz (em 2024), Francisco frisou o papel insubstituível de uns e de outros, em especial em contexto militar: «A exclusiva capacidade humana de julgamento moral e de decisão ética é mais do que um conjunto complexo de algoritmos, e tal capacidade não pode ser reduzida à programação de uma máquina que, por mais «inteligente» que seja, permanece sempre uma máquina. Por esta razão, é imperioso garantir uma supervisão humana adequada, significativa e coerente dos sistemas de armas [e de outros automatismos]. (…) Fazer a guerra escondendo-se atrás de algoritmos, confiando na inteligência artificial para determinar os alvos e como atingi-los e, assim, limpar a consciência porque, no final, a máquina escolheu, é ainda mais grave. Não vamos esquecer-nos de Stanislav Evgrafovich Petrov.»
A curta-metragem «O OUTRO PAR» (The Other Pair, de 2013-14) realizada pela egípcia Sarah Rosik, aos 20 anos de idade, tem somado galardões, precisamente pela riqueza humana da trama. O volte-face generoso, que altera radicalmente o rumo inicial, é estranho e sem sentido para a lógica dos algoritmos. Só o coração humano o percebe, pois sustenta-se em razões que, frequentemente, a razão desconhece:
Sem comentários:
Enviar um comentário