Nesse momento, a ciência se acautela diante de perigosos desafios, que a sétima arte já criou de forma ficcional
Por Misto Brasil – DF
Recentemente a OpenAI dissolveu o departamento encarregado de controlar sistemas de Inteligência Artificial que são mais inteligentes do que os humanos, e o resultado disso é que aumentam as dúvidas sobre os riscos da IA geral.
O motivo apontado, é que é necessário, antes descobrir como dirigir e controlar sistemas de IA que são muito mais inteligentes do que nós humanos.
Na OpenAI, havia um departamento com esse propósito, e na última semana de maio, Ilya Sutskever, que é cofundador da OpenAI e líder da equipe de superalinhamento, saiu da área que havia sido criada em julho de 2023, pela empresa que tem Sam Altman como líder.
Seu objetivo principal era criar avanços científicos e técnicos para direcionar e controlar sistemas de IA muito mais inteligentes do que os humanos, endo como grande desafio promover o alinhamento a superinteligência até o ano de 2027.
A saída de Sutskever, levou a OpenAI a encerrar seu departamento focado em controlar os riscos da chamada inteligência artificial geral (AIG). Afinal, sabidamente construir máquinas mais inteligentes do que os humanos é uma tarefa definitivamente perigosa.
A posição dos donos da OpenAI
Nesse momento, a ciência se acautela diante de perigosos desafios, que a sétima arte já criou de forma ficcional, como no último filme de Jeniffer Lopes, Atlas, onde uma inteligência Artificial ganha vontade própria e inicia uma guerra com capacidade para acabar com o planeta terra.
Como se percebe, realidade e os filmes de ficção cientifica andam a cada dia mais próximos, e é bom ter todo cuidado, pois a lógica do mercado de ter sempre algo novo, vinha nos últimos anos atropelando a cultura e os processos de segurança, que ficaram em segundo plano em relação aos produtos e as suas atualizações.
Em bom tempo, no último fim de semana, os fundadores da OpenAI, Sam Altman e Greg Brockmam, publicaram um comunicado de quase 500 palavras na rede social X explicando sua posição sobre a segurança em sua empresa, que assim fala:
“Não há uma cartilha comprovada sobre como navegar no caminho para o IAG. Acreditamos que a compreensão empírica pode ajudar a orientar o caminho a seguir. Acreditamos tanto em aproveitar os enormes benefícios quanto em trabalhar para mitigar os graves riscos.
Levamos nosso papel aqui muito a sério e avaliamos cuidadosamente o feedback sobre nossas ações”, disse Brockman no post, que também foi assinado por Altman.
Nos últimos meses, diversos executivos deixaram a empresa, com o mesmo tipo de reclamação, “a empresa está focada em fazer novos negócios e deixando a segurança de lado”.
A preocupação dos funcionários da OpenAI também está presente entre cientistas e especialistas no assunto há algum tempo. Nesta semana, 25 cientistas renomados publicaram um manifesto na revista Science afirmando que as pesquisas sobre segurança de IA estão atrasadas.
Na carta, eles afirmam que há muito dinheiro e espaço para as empresas de tecnologia continuarem se movendo em direção à IA que corresponda ou exceda as capacidades humanas, mas se não for gerenciada com cuidado, os riscos em grande escala virão.
“Sem cautela suficiente, podemos perder irreversivelmente o controle de sistemas autônomos de IA, tornando a intervenção humana ineficaz. O cibercrime em larga escala, a manipulação social e outros danos podem aumentar rapidamente. Esse avanço desenfreado da IA pode culminar em uma perda em larga escala de vidas e da biosfera, e na marginalização ou extinção da humanidade”, afirmam.
Cérebro tem cem bilhões de neurônios
O avanço dos estudos é sempre o resultado do impulsionamento conveniente do mercado, da mesma maneira que os valores das empresas de capital aberto nas bolsas de valores de todo mundo, as pesquisas, majoritariamente, são sempre movidas pelas expectativas de resultado das empresas, e reside aí a importância do fomento público a pesquisa, que fique fora da lógica reinante do mercado.
O mercado quando intervém na pesquisa, dando sua diretriz sempre o faz em nome da expectativa dos resultados financeiros que possam refletir no médio e longo prazo no valor do negócio, e aqui não existe nenhuma crítica nesse artigo, mas mera constatação factual.
O desenvolver da inteligência artificial ocorre paralelamente a compreensão do cérebro e é nessa complexidade e ignorância do objeto, que cérebros e o universo se assemelham, onde todos nós tempos uma parcela ínfima do seu conhecimento, por mais interessante e necessário que seja o estudo nesses dois mundos, cérebro e universo.
Vejamos os números, se a Internet (WWW) tem 10 bilhões de conexões, o cérebro tem cem bilhões de neurônios envolvidos em três vezes mais nódulos e sinapses neurais do que toda a rede mundial da Internet, o que já causa espanto quando se fala em complexidade do cérebro e de se imaginar a distância que temos percorrer para maturidade da inteligência artificial.
Durante a maior parte de nossas vidas, estamos mudando porque nosso cérebro muda; e na maturidade este órgão irá adaptar e eliminar conexões cerebrais que não o serviram anteriormente.
Logo o estudo da inteligência artificial, de forma análogo evolui sempre por um terreno ainda mais complexo e ilimitável. É de se destacar que a coisa mais complexa que nosso corpo faz é desenvolver impulsos sinápticos (impulsos nervosos) ao longo de duas décadas de vida, um mecanismo resultante de dois milhões de anos de evolução da espécie humana para se adaptar ao seu ambiente, e em evolução permanente.
Com isso, não é surpresa que um grande número de patologias neuropsiquiátricas sejam o resultado do desenvolvimento cerebral, de uma doença motora a doenças mentais cuja aparência coincide ou é imediatamente após a fase de desenvolvimento cerebral.
Tal qual o universo, os neurocientistas se debruçam para melhor entender sobre as alterações genéticas que afetam o desenvolvimento cerebral para produzir uma doença. O processo de desenvolvimento cerebral é tão complexo que dá origem a um grande número de doenças neurodesenvolvimentares.
