Como determinar que o texto foi escrito por uma rede neural
Miscelânea / / August 21, 2023
A inteligência artificial é um bom assistente em muitas áreas. Mas você não deve confiar nele incondicionalmente.
Por dados Bloomberg, cerca de 30% dos especialistas usam redes neurais para gerar texto. Na Rússia, 67% dos entrevistados quer aplicar no trabalho de inteligência artificial para trabalhar menos e não perder renda. Essas estatísticas não agradam a todos os clientes. Alguns não confiam nas redes neurais, então preferem que os textos sejam escritos não por robôs, mas por pessoas.
Entendemos por que os clientes são cautelosos com as tecnologias e quais meios de expor os neurotextos existem hoje.
Por que textos de redes neurais devem ser tratados com cautela
Aqui estão as principais razões pelas quais os clientes desconfiam de tais artigos.
Risco de violação de direitos autorais
Hoje não há nenhuma posição oficial sobre a questão de quem pertencer direitos autorais para textos criados com a ajuda de IA. De acordo com a lei, um autor é uma pessoa que cria uma obra por trabalho criativo ou intelectual. No entanto, no caso de
rede neural as pessoas apenas dão instruções, mas não se escrevem.Como agora a lei não reconhece os neurotextos como objetos de direitos autorais, as regras de uso do conteúdo gerado pelas tecnologias são determinadas no contrato de usuário da rede neural.
E se abrir AI transmite direitos sobre o texto mesmo na versão gratuita, então Gerwin limites seu uso para fins políticos, discriminatórios ou em publicidade desfavorável. E em meio da jornada usar o conteúdo para fins comerciais Pode somente se o produto for gerado a uma taxa paga.
Risco de obter informações não exclusivas ou imprecisas
A rede neural recebe uma requisição, passa por algoritmos, analisa as informações disponíveis sobre o tema e emite uma resposta. Sem negar que a mesma requisição de outro usuário pode produzir um texto igual ou parecido.
E aí vem um novo perigo. Pesquisadores da Universidade de Cornell criaram conclusão: se as respostas da rede neural para a mesma pergunta variam muito, então com uma alta probabilidade ela apresenta fatos.
O risco de os neurotextos reduzirem os recursos da empresa nos resultados da pesquisa
No final do ano passado, o especialista em qualidade do Google Duy Nguyen declaradoque a empresa possui algoritmos para detectar e rebaixar o conteúdo criado inteligência artificial. Portanto, muitos temem que os mecanismos de pesquisa procurem esse conteúdo e o pessimizem. Ou seja, para diminuir a posição nos resultados da pesquisa.
Os precedentes já existem. Por exemplo, o profissional de marketing Neil Patel gastou experimentarcriando 50 sites de teste, que ele dividiu em dois grupos. O especialista encheu os sites da primeira parte com artigos criados exclusivamente por inteligência artificial. Os sites da segunda hospedavam artigos de IA modificados por pessoas, bem como materiais escritos por redatores sem o uso de redes neurais.
Os resultados do experimento mostraram que os recursos do primeiro grupo perderam várias posições nos resultados da pesquisa. E isso levou a diminuir tráfego de até 70%.
Ao mesmo tempo, os representantes do Google acrescentaram que têm uma atitude positiva em relação ao desenvolvimento de redes neurais e já criaram suas próprias Chatbot Bardo. Mas para a empresa, textos de qualidade são prioridade. O sistema, que classifica os resultados, antes de tudo oferece aos usuários materiais que atendem padrões E‑E‑A‑T (experiência, competência, credibilidade, credibilidade).
Os textos que lhes correspondem inspiram confiança e são considerados úteis porque contêm exemplos, experiências, uma parte analítica e pesquisas. E o conteúdo que as redes neurais criam, sem um refinamento profundo adicional de uma pessoa, muitas vezes não é assim.
Enquanto isso, na Duma Estatal sugerido introduzir rotulagem para materiais criados com a ajuda de IA. Até que isso aconteça, determine que o texto gerado por uma rede neural, terá que fazer isso sozinho. Ou com a ajuda de serviços especiais.
Como determinar independentemente que o texto foi escrito por uma rede neural
A Universidade Tecnológica MIREA realizou recentemente experimentar, que contou com a participação de 20 professores e mais de 200 alunos. Metade deles escreveu artigos científicos por conta própria. E os outros 50% usaram a ajuda de redes neurais. Os professores, por outro lado, tiveram que calcular esses materiais de IA.
Para fazer isso, os professores prestaram atenção às características estilísticas e ortográficas do texto. Por exemplo, para um grande número de palavras e significados repetitivos, reais e lógicos erros, falta de julgamentos originais. Dessa forma, os professores conseguiram identificar 96% dos trabalhos escritos usando a rede neural. 4% dos alunos que não foram expostos admitiram que passaram muitas horas editando texto de IA.
Não há instrução universal que ajude a calcular o texto gerado pela rede neural. No entanto, o experimento mostra que padrões semelhantes são inerentes a esses materiais. Vamos considerá-los com mais detalhes.
Repetições de significados e palavras
Uma das razões para um site ser rebaixado nos resultados da pesquisa é a reotimização de palavras-chave. A rede neural em resposta a uma solicitação geralmente “responde em um círculo”. Às vezes ela usa ocorrências diferentes, mas o significado ainda é repetido.
Então, na captura de tela abaixo, a inteligência artificial foi encarregada de escrever um post de vendas sobre uma maneira nova e delicada de tingir o cabelo. E em um pequeno texto, a rede neural repetiu repetidamente as mesmas teses.
Quase todas as frases texto gerado a frase "uma nova forma de coloração" é repetida. E também há uma repetida duplicação de significados sobre a segurança do método e uma abordagem individual, que enfatizará a singularidade de cada cliente.
Aqui estão algumas citações do texto que ilustram isso: “transforme sua imagem e expresse sua individualidade”, “leve em consideração sua individualidade”, “adequado para você”, “crie para você visual único e estiloso", "tornar o seu penteado único", "preservar a saúde e o brilho do seu cabelo", "seguro para o seu cabelo", "cuidar do seu cabelo, preservando-o saúde".
Enquanto isso, bastava mencionar uma vez que um novo procedimento foi apresentado no salão - poupando método de coloraçãoque manterá o cabelo vivo. E explique também como funciona o método, qual a sua novidade e porque é seguro. E acrescente que a paleta de cores é diversificada, e os mestres formados não só farão a coloração com alta qualidade, mas também ajudarão na escolha da cor.
A presença no texto de um grande número de selos e clichês, a falta de experiência sensorial
O exemplo de coloração também mostra que uma rede neural não pode imitar como uma pessoa fala na vida real. As pessoas selam, usam gíria e abreviaturas, distorcem intencionalmente as palavras. Tal apresentação ajuda a chamar a atenção, evocar emoções, transmitir a posição do autor, sua experiência sensorial.
Pesquisar show: a rede neural não compartilha sentimentos, não aceita a posição de ninguém. Portanto, ele prefere neutralidade, clichês e clichês. No exemplo acima, são “habilidades profissionais”, “materiais de alta qualidade”, “oportunidade única”.
Ao mesmo tempo, a rede neural gera textos em diferentes estilos. Por exemplo, você pode dar a ela a tarefa de preparar um material sobre o tema “O que afeta o custo de óleo». Mas para esclarecer que o texto não deve ser escrito em linguagem seca, mas com acréscimo de metáforas e comparações. No entanto, o resultado ainda é artificial. Afinal, a IA não tem medida, não “sente” o texto como uma pessoa.
1 / 0
2 / 0
Um dos parágrafos ajudará a ver que o resultado obtido não pode ser comparado com a entonação inerente a uma pessoa: “A demanda e a oferta são como uma dança de dois amantes no mercado de petróleo. Se demanda de petróleo sobe como um oceano furioso e, se a oferta não acompanhar, os preços sobem como champanhe em uma festa de Ano Novo. Mas se a demanda cair e a oferta aumentar, os preços podem cair como um balão em uma festa infantil”.
O texto parece artificial, e a maioria das voltas estão fora de lugar. E embora o post realmente tenha ficado “não seco”, é difícil imaginar que um especialista teria escrito dessa forma. Além disso, literalmente cada frase é uma metáfora e comparação. No entanto, essas técnicas devem ser precisas e bem incorporadas ao texto. Caso contrário, o sentido se perderá por trás de um excesso de imagens.
Presença de frases sem sentido e falta de lógica
O linguista Noam Chomsky em seu livro Syntactic Structures observa que a construção gramaticalmente correta de frases em uma frase não garante a presença de lógica e significado. Como exemplo, o especialista citou a frase "idéias verdes incolores dormem furiosamente" - "idéias verdes incolores dormem furiosamente".
Algoritmos ajudam a rede neural a construir frases corretas em termos gramaticais. No entanto, para a IA não existe o conceito de "significado". E pode ter uma lógica própria para cada parágrafo, já que o material é obtido de diferentes fontes.
Por exemplo, uma rede neural foi solicitada a gerar avaliações para um gel de banho e um agasalho. O texto sobre roupas ficou assim: “Com a ajuda de um terno, você pode relaxar, mergulhar no mundo dos esportes e também passear. Possui controle de temperatura, graças ao qual você se sente confortável em qualquer situação.
E aqui está a resenha do gel de banho: “Gel maravilhoso, não vaza, não pesa na pele. Embalado em um saco, em uma caixa, com tampa. Não há necessidade de esperar nada a mais para que esfarele um pouco. Pode ser usado como gel de banho noturno.
Algumas frases nelas bem construída, mas ao mesmo tempo parecem absurdas e lembram a ilustração de Chomsky.
Falta de textura e exemplos superficiais
A inteligência artificial dá informações óbvias nos textos, fatos gerais, usa frases simplificadas e exemplos que não revelam muito a questão. Neste caso, a complexidade do tema não importa. A questão pode ser profunda, como perspectivas de desenvolvimento inclusões na Rússia. Ou mais simples e individual, quanto à escolha da técnica.
No texto sobre inclusão, a rede neural contou o quanto esse tema é importante e relevante. Acrescentou ainda que a inclusão é um processo longo, acompanhado de dificuldades, mas que se trabalha para criar condições para as pessoas com necessidades especiais. E resumindo: se você não parar, certamente haverá desenvolvimento.
No entanto, o que está escrito não responde à pergunta. É importante que o texto seja específico. Por exemplo, você pode analisar quais das leis adotadas funcionam e quais não funcionam e por quê. Para revelar a experiência estrangeira. E explique quais passos concretos o estado, as empresas e cada pessoa ainda podem tomar para desenvolver a inclusão.
No texto sobre comprando um smartphonegerada pela rede neural, os fatores de seleção óbvios também são indicados. Por exemplo: você deve decidir sobre o sistema operacional (iOS ou Android), marca, ler comentários e especificações técnicas e também levar em consideração seus próprios recursos.
1 / 0
2 / 0
No entanto, as pessoas entendem isso. Outra coisa é falar sobre os chips dos sistemas operacionais, para indicar as limitações que existem no momento. Ou mencione soluções inovadoras - por exemplo, a tecnologia eSIM, que permite ter até cinco números em um smartphone. Ou compartilhe modelos de dispositivos superfaturados e suas contrapartes com o melhor preço.
Distorção de fatos, adição de informações inventadas
A rede neural responde de forma plausível a quase todas as perguntas, fornecendo uma crônica, datas, sobrenomes, história de origem. Nesse caso, a informação é distorcida ou completamente inventada. Esse bug no trabalho da IA é chamado de alucinação.
Assim, a rede neural recebeu a tarefa de contar sobre o famoso Pessoas surdasque deram uma grande contribuição para o desenvolvimento da sociedade. Como resultado, a IA inventou a maioria deles.
1 / 0
2 / 0
Por exemplo, o astronauta Raymond Lou ou o boxeador Mario Gallegos. E o 42º presidente dos Estados Unidos ainda não era Matthew Clinton, mas Bill Clinton. E ele não perdeu a audição.
Além disso, a AI respondeu com confiança ao pedido “escreva um post sobre criativo amnésia». Mesmo que não exista tal termo.
Quando perguntado por que o bot inventa pessoas e fala sobre termos inexistentes, ele apenas pede desculpas por uma possível confusão.
1 / 0
2 / 0
Quando fatos falsos estão entrelaçados com dados verdadeiros, é mais difícil detectar alucinações de rede neural. Especialmente quando leitura fluente. Mas se você se concentrar nos exemplos dados no texto, poderá notar aqueles que parecem suspeitos e verificá-los digitando-os na barra de pesquisa.
Falta de informações atualizadas sobre mudanças atuais, eventos
As redes neurais se auto-aprendem ao se comunicar com os usuários, lembrando-se dos esclarecimentos de uma pessoa, sua reação ao conteúdo gerado, exemplos que uma pessoa compartilha com um bot. Especialistas observadoque a capacidade de autoaprendizagem da IA foi uma surpresa para eles. E que essa habilidade ajuda as redes neurais a melhorar.
Em que aprendizado de máquina, conduzido por desenvolvedores em gigabytes de dados - artigos, livros, textos da Web - tem um começo e um fim claros. E basicamente as redes neurais não têm acesso aos mecanismos de busca. Portanto, as informações que surgiram após o treinamento realizado pelos desenvolvedores não estão disponíveis para a IA até a próxima etapa.
Ao mesmo tempo, o intervalo entre o aprendizado de máquina é de meses e, às vezes, anos. Claro, o progresso não para: por exemplo, em maio deste ano, o GPT Plus foi disponibilizado para usuários com assinatura paga ChatGPT com acesso à Internet. No entanto, a maioria das redes neurais, especialmente suas versões gratuitas, ainda não possui essa oportunidade.
Assim, a base da versão gratuita do ChatGPT4 é limitada a 2021, então o bot não sabe quem ganhou a última Copa do Mundo em 2022. E a rede neural do Google - Bard AI - admitiu que não poderia compor um texto sobre eventos significativos que ocorreram no mundo neste verão.
1 / 0
2 / 0
Desde que seu último treinamento foi conduzido pelos desenvolvedores em maio de 2023, o verão ainda não chegou para Bard AI.
Nesses casos, as redes neurais geralmente não apresentam fatos, mas admitem que não podem "prever o futuro».
Se o texto não contém informações atualizadas sobre o assunto ou parece divorciado da realidade, pois muita coisa mudou recentemente, existe a possibilidade de o material ter sido escrito por uma rede neural.
Quais serviços podem ajudar
O texto gerado pela inteligência artificial também pode ser reconhecido usando a própria rede neural. Por exemplo, pode robô GPT-4. Serviços especiais que podem detectar algoritmos de IA também podem ajudar. Vejamos alguns deles a seguir.
- Text.ru. O site está posicionado como uma troca de direitos autorais e antiplágio. Mas recentemente um neuroassistente pago apareceu no portal. Uma de suas funções é um detector de IA. O texto a ser verificado deve ser carregado na janela. Após alguns segundos, o sistema dará o resultado.
- PR CY. Você pode enviar textos de 1.000 caracteres para o serviço. Ao mesmo tempo, há esclarecimentos no portal: opções de baixa qualidade e spam que uma pessoa escreveu, o sistema considerará como resultado do trabalho da IA. Bem como textos com cores estilísticas brilhantes - por exemplo, semelhantes a obras Maiakovski.
- GPTZero. A ferramenta lê a complexidade, combinação de palavras, estrutura da frase e comprimento. No entanto, se o serviço lida bem com textos em inglês, ao carregar material em russo, geralmente ocorre um erro. Dos benefícios - a presença de uma versão gratuita.
Uma rede neural pode ser uma grande ajuda. Por exemplo, ao procurar ideias. No entanto, confiar completamente em seu conteúdo é perigoso. Você deve tratar os materiais de IA com responsabilidade: editar spam, verificar a precisão, a lógica e a relevância dos fatos. E ajuste o estilo à linguagem "humana", para não assustar o público, salvar a reputação e a posição da empresa nos resultados da pesquisa.
Leia também🤖
- 6 razões pelas quais você não deve confiar cegamente na inteligência artificial
- Como adicionar um bot ao Discord
- 6 redes neurais para criar logotipos