8 mitos da inteligência artificial que até os programadores acreditam
Miscelânea / / June 01, 2023
ChatGPT e Stable Diffusion não se transformarão em Skynet com toda a sua vontade.
Mito 1. A IA tem a capacidade de ser criativa
Olhando para as criações de redes neurais como Midjourney, Stable Diffusion ou DALL·E 2, muitas pessoas prevêem o fim da profissão de artista. Afinal, o que uma pessoa vai desenhar por horas e dias, uma máquina pode criar em segundos. Isso significa que a inteligência artificial é superior ao cérebro vivo em criatividade?
A IA pode ser boa em imitar a criatividade humana, mas todas as suas criações são de alguma forma semelhantes ao que já vimos ou ouvimos. As redes neurais analisam milhares e milhões de imagens e criam algo semelhante com base nelas. Mas não é o mesmo que trabalho. artista com uma referência, porque a IA simplesmente não entende o que está copiando.
Mais notável exemplo: as redes neurais estão enfrentando dificuldades significativas com o desenho das mãos. A IA simplesmente não consegue descobrir quantos dedos uma pessoa deve ter.
Além disso, as redes neurais não são boas para desenhar padrões e padrões, letras (em imagens onde deveriam estar textos, elas inserem lixo), edifícios e carros, e apenas personagens em poses que diferem do comum “sentado”, “em pé”, “deitado”. Eles são incapazes de distinguir entre o primeiro plano e o fundo dos objetos, não conseguem trabalhar com perspectiva e carecem de senso de espaço.
Você é apenas uma máquina. Apenas uma imitação da vida. Um robô vai compor uma sinfonia? Um robô transformará um pedaço de tela em uma obra de arte?
Detetive Del Spooner
Filme "Eu, Robô"
A própria IA não pretende negar suas fraquezas. Perguntado por que ele não se destacava em desenhar dedos, ChatGPT respostas:
“A inteligência artificial não pode desenhar mãos porque precisa entender a anatomia do corpo humano e os fundamentos do desenho para fazer isso. E embora a IA possa ser treinada para criar imagens de pessoas ou animais, ela não é capaz de capturar totalmente muitas das nuances e detalhes que só podem ser percebidos ao observar um objeto real. Além disso, a criação de imagens usando IA é apenas um cálculo matemático, e não um processo criativo que requer intuição e um componente emocional de uma pessoa.”
Portanto, as redes neurais dos artistas não substituirão. Outra coisa é que eles podem se tornar uma boa fonte para este último. inspiração. Afinal, as imagens geradas por IA podem ser usadas como miniaturas para suas próprias imagens mais elaboradas.
Mito 2. A IA é sempre de mente aberta e imparcial
Muitos sonham que chegará o tempo em que os estados serão governados por redes neurais. Acredita-se que as máquinas, ao contrário das pessoas, tomem decisões baseadas apenas na lógica, e não nas emoções e desejos. Imagine tribunais incorruptíveis que sempre proferem sentenças justas, estados que tratam todos os seus cidadãos igualmente, governos que criam apenas sentenças razoáveis. leis. É bom.
Mas, na prática, verifica-se que a IA pode ser tendenciosa. Afinal, as redes neurais são treinados nos dados que as pessoas lhes fornecem, e as pessoas tendem a ser tendenciosas.
Por exemplo, os desenvolvedores da rede neural Beauty. A IA tentou criar uma máquina que escolheria as garotas mais bonitas em concursos de beleza. Num conjunto de fotografias, a partir das quais o programa foi treinado para reconhecer padrões atratividade feminina, modelos brancos prevaleceram. E finalmente IA decidiuque garotas de pele escura e asiáticas não podem ser bonitas.
Equipe de beleza. A IA percebeu que havia criado uma IA racista e cancelou o projeto.
Outro exemplo é o chatbot Tay.ai da Microsoft, que teve que aprender a ter uma "conversa casual e divertida" com pessoas online.
Menos de 24 horas online foi o suficiente para a rede neural coletar dos usuários da rede social maus hábitos. Como resultado, Tay.ai, fingindo ser uma garota comum de 19 anos, começou a insultar as pessoas nos comentários, elogiar movimentos políticos insalubres, condenar o feminismo e, ao mesmo tempo, dizerque o feminismo é legal. Como se costuma dizer, com quem você vai se comportar ...
Por melhor que seja a IA, ela depende da qualidade dos dados fornecidos a ela e da exatidão de sua interpretação. E conseqüentemente, ele sempre será tendencioso exatamente tanto quanto as pessoas que o ensinam são tendenciosas.
Mito 3. IA sempre diz a verdade
Quem não gostaria de ter um assistente de robô com eles, que sempre lhe dirá a solução certa e fará todo o trabalho mental difícil? Peça à IA para escrever uma dissertação ou coletar uma lista de fontes para artigos - e a máquina fornece imediatamente os dados corretos. É ótimo!
Mas, infelizmente, redes neurais reais estão longe nem sempre dar respostas corretas. Tente, por exemplo, pedir ao ChatGPT para ajudá-lo a planejar seu trabalho final, e você descobrirá rapidamente que a máquina... cria links para fontes inexistentes e insere URLs que não funcionam para fazer seu texto parecer mais convincente.
Se você perguntar ao chatbot por que ele está tentando te enganar, ele responderá inocentemente que quando estava aprendendo, todos os links eram relevantes e ele não tem culpa de nada.
Também é melhor não pedir dados estatísticos ao ChatGPT - por exemplo, para várias perguntas sobre o PIB dos mesmos países no mesmo ano, calmamente deu resultados completamente diferentes.
Não se engane: redes neurais não possuem intelecto e, portanto, desconhecem suas respostas. Eles simplesmente copiam para você os dados de textos previamente processados que parecer eles os mais adequados.
A própria IA é propensa a bugs e falhas, fazendo com que suas solicitações sejam mal interpretadas e dando resultados incorretos. Além disso, usuários mal-intencionados poderia “alimentar” a rede neural com informações falsas. Eventualmente, a IA será programada para ocultar ou dados distorcidos em suas respostas ou mesmo carregar lixo.
Mito 4. IA vai causar desemprego
Avanços em geradores de texto como o ChatGPT levaram alguns a temer que as redes neurais tirem empregos de milhões de pessoas e causem um grande aumento no desemprego.
Julgue por si mesmo: o ChatGPT pode não apenas manter uma conversa à vontade, mas também escrever notícias, reescrever artigos e até programar. Com essas tendências e escritoras, e desenvolvedores e editores com jornalistas ficarão sem meios de subsistência.
É o que pensam as pessoas que não trabalharam com a rede neural ou apenas se familiarizaram com suas capacidades e ficaram imediatamente encantadas. Ou horrorizado.
Se você usar a IA por algum tempo para gerar textos, notará que a máquina não está muito atenta ao conteúdo semântico de suas escritas. Em vez disso, ela repete as mesmas teses com palavras diferentes.
O ChatGPT distribui joias das quais os verdadeiros redatores riem. Por exemplo, para pessoas interessadas em instrumentos folclóricos, a rede neural aconselha "pegue colheres e comece a soprar." COM programação nem tudo é fácil. AI pode ser útil para codificadores, mas seus recursos são limitados a escrever pequenos algoritmos e sub-rotinas.
O código gerado pelo ChatGPT frequentemente acontece que não funcionando ou interrompido no meio. Peça à IA para comentar as linhas de sua criação e ela fornecerá com calma o texto "a lógica do programa está aqui". Um desenvolvedor júnior deixando tais descrições em um projeto dificilmente receberia tapinhas na cabeça.
Estudo da Organização para a Cooperação e Desenvolvimento Econômico shows, que no melhor caso (para IA) é completamente automatizar apenas 10% dos empregos nos EUA e 12% na Grã-Bretanha são possíveis.
As redes neurais são capazes de realizar ações rotineiras entediantes para uma pessoa, como separar correspondências e reescrever notícias de acordo com um plano rigidamente definido. Mas os analistas da OCDE chegaram a conclusãoque a IA não poderá se candidatar a empregos que exijam alto nível de educação e complexidade habilidades.
Em geral, é improvável que o ChatGPT aceite o pão de uma pessoa.
Mito 5. IA se tornará inteligente
Físico Stephen Hawking disseque a inteligência artificial pode substituir completamente os humanos. Personalidades famosas como Elon Musk, Gordon Moore e Steve Wozniak também mencionado sobre os perigos da IA e a necessidade suspender experimentos para desenvolvê-lo.
Vá descobrir o que um computador pensante terá em mente.
Muitos futurólogos e escritores previstoque o desenvolvimento da inteligência artificial completa levará a consequências negativas para os humanos.
Mas a palavra-chave aqui é “completo”. O termo em si IA em relação a redes neurais como o ChatGPT não é bem correto, pois não possuem inteligência. Eles são apenas algoritmos, conjuntos complexos de comandos e modelos matemáticos, e não são capazes de reproduzir funções cognitivas humanas.
A razão é simples: nós mesmos ainda não sabemos muito bem como funciona. nosso cérebro. E reproduzi-lo em código é uma tarefa impossível.
Existir conceitos IA "fraca" e "forte". A primeira são as mesmas redes neurais para gerar texto ou classificar e-mails. Eles não podem tomar decisões por conta própria ou aprender com novos dados.
E uma IA forte é a Skynet de The Terminator ou AM da história de Ellison. Um computador que não apenas opera informações, mas entende seu significado em um grau ou outro. Tal IA existir apenas em obras fantásticas, e em geral, desconhecidose é possível criar um análogo eletrônico do cérebro humano, pelo menos teoricamente.
Mito 6. Em breve a IA começará a se desenvolver de forma independente e uma singularidade tecnológica surgirá
Singularidade Tecnológica é um estado hipotético da civilização humana, quando o desenvolvimento da tecnologia se torna tão rápido que uma pessoa não consegue controlá-la. Um dos autores desse conceito foi o matemático britânico Irving Goode.
Cientista sugerido: se você criar um "agente inteligente" de autoaprendizagem, ele melhorará a uma taxa insondável. A IA começará a criar novas tecnologias e a se modernizar, e a humanidade, incapaz de entendê-la, ficará irremediavelmente para trás no desenvolvimento.
A primeira máquina superinteligente é a última invenção de que o homem precisará. Desde que ela seja dócil o suficiente para nos dizer como mantê-la sob controle.
Irving Good
Matemático
Mas, como já explicamos, o autoaperfeiçoamento capaz apenas IA forte, e os cientistas agora não têm ideia de como criá-la.
A inteligência artificial fraca é treinada nas informações que os desenvolvedores “alimentam” para ela. Para treinar a rede neural obrigatório especialistas que determinam os dados adequados para cada novo ciclo de treinamento, eliminam erros nas amostras de treinamento e atualizam o software.
As redes neurais não podem se desenvolver além das capacidades incorporadas a elas por seu código. Assim, a singularidade tecnológica é atrasada.
Mito 7. AI vai se rebelar contra os criadores
Uma IA com uma consciência suficientemente desenvolvida poderia, em teoria, considerar os humanos uma ameaça. E, por via das dúvidas, livre-se deles desencadeando uma guerra nuclear ou infectando a população do planeta com um mortal vírus. Você nunca sabe, de repente esses macacos sem pelos vão puxar o plugue da tomada.
Esta é uma história popular na ficção científica. Um de seus primeiros usado em 1967, o escritor americano Harlan Ellison em seu conto "Não tenho boca, mas devo gritar". Nele, o todo-poderoso computador AM odiava seus criadores, humanidade exterminada e deixou apenas cinco pessoas no planeta para zombar deles sem nada para fazer.
Glória aos robôs. Morte aos humanos.
Na realidade, uma rebelião de IA é impossível. Algoritmos de software não são autoconscientes, não têm livre arbítrio e emocional reações. Eles não podem nutrir sentimentos negativos em relação aos seus criadores ou desejar escravizar a humanidade. As redes neurais não são capazes de alterar independentemente seus parâmetros ou programas para fugir do controle.
Algo assim na teoria Talvez IA forte. Mas, como mencionado acima, com tecnologias modernas, não funcionará para criá-lo.
Mito 8. Robôs com inteligência artificial vão matar pessoas
Quando falamos sobre os perigos da IA e a ascensão das máquinas, geralmente pensamos em imagens de filmes como O Exterminador do Futuro. Liderados pela inteligência artificial, uma horda de criaturas mecânicas semelhantes aos humanos, porém mais fortes e rápidas que ele, extermina seus inventores.
Na prática, esse cenário é extremamente improvável, e nem se trata da falta de vontade da IA de matar alguém. É que o estado atual da robótica está muito atrás do que vimos no Exterminador do Futuro e "Matriz».
Por exemplo, os robo-bops da Boston Dynamics diferem em capacidades do assassino de quatro patas da série Black Mirror Metalhead. Eles não sabem correr tão rápido para perseguir pessoas em fuga. Ao tentar alcançá-lo nas escadas, o mesmo Spot pode facilmente se enroscar nas pernas e cair.
Um obstáculo ainda mais significativo para a criação de assassinos mecanizados é a falta de uma fonte de energia suficientemente compacta, poderosa e duradoura.
Robôs Boston Dynamics capaz "Viver" com uma única carga por até 90 minutos - isso claramente não é suficiente para representar um exército deles para a destruição da humanidade. Também ainda não foram inventadas usinas de reatores que operam há 120 anos seguidos, que podem ser colocados no baú de uma máquina de tamanho humano, como no Exterminador do Futuro.
Por fim, colocar IA em uma máquina independente é uma tarefa impossível. É na fantasia de James Cameron que cabe em uma lasca do tamanho de uma unha. Na realidade, para fazer a inteligência artificial pensar, é necessário um poder de computação significativo - o ChatGPT, por exemplo, funciona em uma fazenda, consistindo de 10.000 placas de vídeo.
Você pode imaginar o tamanho de um humanóide enorme? robôpara acomodar tais "cérebros", e que tipo de resfriamento ele deveria ter?
Leia também🧐
- 8 dispositivos familiares que podem espionar você. E não é uma piada
- 10 invenções de filmes fantásticos que se tornaram realidade
- Mais de 100 serviços baseados em redes neurais para uma variedade de tarefas