OpenAI alertou sobre a descoberta de IA que pode ameaçar a humanidade

O dia anterior exílio O CEO da OpenAI, Sam Altman, vários pesquisadores da equipe da empresa escreveram ao conselho de administração carta alertando sobre a descoberta de uma poderosa inteligência artificial, que eles dizem "poderia ameaçar para a humanidade." Sobre isso com referência às nossas próprias fontes escreve Reuters.

Foi esta carta que foi citada como um dos fatores da longa lista de reclamações do conselho de administração que levou à demissão de Altman. A Reuters não conseguiu falar pessoalmente com os autores ou obter comentários da OpenAI. Porém, após tal solicitação, a empresa, em mensagem interna aos funcionários, anunciou a existência de um determinado projeto denominado Q* (pronuncia-se Q-Star).

Alguns funcionários da OpenAI acreditam que Q* poderia ser um avanço no chamado inteligência artificial geral (AGI). OpenAI o caracteriza como um sistema autônomo que supera os humanos na maioria das tarefas economicamente valiosas.

Até agora, Q* só pode resolver problemas matemáticos de nível elementar, de acordo com uma fonte. escolas, mas a conclusão bem-sucedida de tais testes dá aos pesquisadores grande otimismo sobre as perspectivas de sua desenvolvimento.

A principal diferença entre essa IA é que ela é capaz de definir metas, dividir problemas complexos em pequenos problemas, trabalhar em uma ampla gama de problemas e encontrar soluções levando em consideração o contexto de diferentes domínios. Simplificando, tal inteligência, em teoria, pode substituir um especialista altamente qualificado com conhecimento, habilidades e ampla experiência.

Os pesquisadores acreditam que a matemática é a vanguarda da IA ​​generativa. Hoje em dia ele é bom em escrever e traduzir, prevendo estatisticamente a próxima palavra, e as respostas para a mesma pergunta podem variar muito. Mas conquistar a matemática (onde só existe uma resposta correta) implica que a IA terá capacidades de raciocínio mais amplas que se assemelham à inteligência humana. Isto pode ser aplicado, por exemplo, a novas pesquisas científicas, dizem os especialistas.

Na sua carta ao conselho de administração, os investigadores salientaram o poder da IA ​​e os perigos potenciais. Eles também notaram o trabalho de um grupo especial de “cientistas de inteligência artificial”, cuja existência foi confirmada por numerosas fontes. A equipe está estudando como otimizar os modelos de IA existentes para melhorar seu raciocínio e, em última análise, realizar trabalhos científicos com eles, disse uma das pessoas.

Altman liderou o esforço para tornar o ChatGPT um dos aplicativos de software de crescimento mais rápido no mundo. história e atraiu o investimento e os recursos computacionais da Microsoft necessários para trazer tal AGI. E pouco antes da sua demissão, na cimeira de líderes mundiais em São Francisco, ele anunciou algumas “realizações sérias que estão ao virar da esquina”.

Um dia depois, o conselho demitiu Altman.

Talvez um dia todas essas decisões e acontecimentos constituam a base de um livro, de um filme inteiro ou mesmo de um livro de história.