Grandes problemas com chatgpt

O ChatGPT é um novo e poderoso chatbot de inteligência artificial, mas muitas pessoas apontaram que ele tem algumas falhas sérias.O ChatGPT cometeu mais de um erro.

1. ChatGPT gera respostas erradas

Ao contrário de outros assistentes de IA como o Siri, o ChatGPT não usa a Internet para encontrar respostas.Em vez disso, ele constrói uma palavra de frase por palavra e seleciona o próximo "token" mais provável com base em seu treinamento.Em outras palavras, o ChatGPT chega a uma resposta através de uma série de suposições, que é uma das razões pelas quais ele pode tratar a resposta errada como completamente correta.

Embora seja bom em explicar conceitos complexos, tornando -o uma poderosa ferramenta de aprendizado, é importante não acreditar em tudo o que diz.O chatgpt nem sempre está correto - pelo menos ainda não.

2. O chatgpt tem preconceito embutido em seu sistema

O ChatGPT foi treinado para escrever coletivamente sobre seres humanos passados e presentes em todo o mundo.Infelizmente, isso significa que os mesmos vieses que existem no mundo real também podem aparecer no modelo.

Foi demonstrado que o ChatGPT produz algumas respostas terríveis que discriminam gênero, raça e grupos minoritários, e o Openai está tentando mitigar essa discriminação.

Uma maneira de explicar o problema é apontar os dados como o problema, culpando os seres humanos pelos vieses incorporados na Internet e em outros lugares.Mas parte da culpa também está no OpenAI, cujos pesquisadores e desenvolvedores selecionam os dados usados para treinar o ChatGPT.

Mais uma vez, o OpenAI sabe que isso é um problema e diz que eles estão abordando o que chamam de "comportamento tendencioso" coletando feedback dos usuários e incentivando -os a sinalizar a saída ruim do ChatGPT.

3. O chatgpt pode aceitar empregos de humanos

Após o rápido desenvolvimento e implantação do ChatGPT, a poeira ainda não se estabeleceu e a tecnologia subjacente por trás dela foi costurada em muitas aplicações comerciais.Entre os aplicativos que integraram o GPT-4 estão Duolingo e Khan Academy.

O primeiro é um aplicativo de aprendizado de idiomas e o último é uma ferramenta diversificada de aprendizado educacional.Ambos oferecem o que é essencialmente um tutor de IA, na forma de um personagem de IA com o qual você pode conversar no idioma que está aprendendo.Ou como mentores de IA que podem fornecer feedback personalizado sobre seu aprendizado.

Por um lado, isso pode mudar a maneira como aprendemos, potencialmente tornando a educação mais acessível e o processo de aprendizado um pouco mais fácil.Mas a desvantagem, isso tira empregos que há muito tempo são mantidos por humanos.

Os avanços tecnológicos sempre levam a perdas de empregos, mas a velocidade com que a IA está avançando significa que vários setores estão enfrentando o mesmo problema.Da educação à ilustração às funções de atendimento ao cliente, o ChatGPT e sua tecnologia subjacente remodelarão completamente nosso mundo moderno.

4. Chatgpt afeta a indústria educacional

Você pode solicitar o ChatGPT para revisar seu texto ou apontar como melhorar um parágrafo.Ou você pode tirar -se completamente da equação e deixar o chatgpt fazer todo o trabalho de escrita para você.

Os professores tentaram fornecer tarefas em inglês para conversar e receberam melhores respostas do que muitos de seus alunos poderiam fazer.Desde escrever cartas de apresentação até descrever os principais temas de obras famosas de literatura, o ChatGPT pode fazer tudo sem hesitar.

Quando os alunos começam a usar o ChatGPT para ajudar a escrever ensaios, as escolas terão que encontrar respostas rapidamente.A rápida implantação de inteligência artificial nos últimos anos certamente abalará muitas indústrias, e a educação é apenas uma delas.

5. Chatgpt pode ser prejudicial ao mundo real

A velocidade com que o texto que soa natural é gerado facilita para os golpistas personificar as pessoas que você conhece nas mídias sociais.Da mesma forma, descobrir e -mails de phishing projetados para extrair detalhes confidenciais de você foi simplificado.Um benefício adicional é que o ChatGPT pode gerar texto sem erros gramaticais - uma vez que uma bandeira vermelha clara.

A disseminação de informações falsas também é uma preocupação séria, e a escala do texto ChatGPT pode gerar, combinada com a capacidade de fazer com que a desinformação pareça convincente, certamente tornará as informações na Internet ainda mais suspeitas.

6. OpenAI detém todo o poder

Com grande poder, vem grande responsabilidade, e o OpenAI tem um poder tremendo.É uma das primeiras empresas de IA a mudar o mundo com vários modelos generativos de IA, incluindo Dall-E 2, GPT-3 e GPT-4.

O OpenAI escolhe quais dados usar para treinar ChatGPT, mas essas informações não estão disponíveis ao público.Simplesmente não sabemos os detalhes de como o ChatGPT é treinado, quais dados são usados, de onde vem os dados ou como é a arquitetura detalhada do sistema.

Por fim, devemos confiar cegamente no OpenAI para pesquisar, desenvolver e usar com responsabilidade, e o ChatGPT e o OpenAI continuarão a desenvolver o ChatGPT de acordo com seus próprios objetivos e padrões éticos, se concordamos com os métodos ou não.

Conclusão

Há muitas coisas interessantes sobre o ChatGPT, mas além de seus usos imediatos, há sérios problemas que merecem ser entendidos.O OpenAI reconhece que o ChatGPT pode produzir respostas prejudiciais e tendenciosas e espera mitigar esse problema, reunindo feedback dos usuários.Mas mesmo que não fosse esse o caso, ele gera texto atraente que poderia ser facilmente explorado por pessoas com intenção maliciosa.

Usando uma nova tecnologia, é difícil prever quais problemas surgirão no futuro.Portanto, embora seja divertido de usar, verifique se você não acredita em tudo o que o Chatgpt diz.