De gros problèmes avec Chatgpt

Chatgpt est un nouveau chatbot d'intelligence artificielle puissante, mais beaucoup de gens ont souligné qu'il a de sérieux défauts.Chatgpt a fait plus d'une erreur.

1. Chatgpt génère de mauvaises réponses

Contrairement à d'autres assistants d'IA comme Siri, Chatgpt n'utilise pas Internet pour trouver des réponses.Au lieu de cela, il construit une phrase mot par mot et sélectionne le prochain "jeton" le plus probable en fonction de sa formation.En d'autres termes, Chatgpt arrive à une réponse à travers une série de suppositions, ce qui est l'une des raisons pour lesquelles il peut traiter la mauvaise réponse comme complètement correcte.

Bien qu'il soit bon pour expliquer les concepts complexes, ce qui en fait un puissant outil d'apprentissage, il est important de ne pas croire tout ce qu'il dit.Chatgpt n'est pas toujours correct - du moins pas encore.

2. Chatgpt a un biais intégré à son système

Chatgpt a été formé pour écrire collectivement sur les êtres humains passés et actuels du monde entier.Malheureusement, cela signifie que les mêmes biais qui existent dans le monde réel peuvent également apparaître dans le modèle.

Il a été démontré que le chatppt produit des réponses terribles qui discriminent les groupes de genre, de race et de minorités, et Openai essaie d'atténuer cette discrimination.

Une façon d'expliquer le problème est de pointer des données comme le problème, blâmer les humains pour les biais ancrés sur Internet et ailleurs.Mais une partie du blâme réside également avec OpenAI, dont les chercheurs et les développeurs sélectionnent les données utilisées pour former le chatppt.

Encore une fois, Openai sait que c'est un problème et dit qu'ils abordent ce qu'ils appellent le "comportement biaisé" en collectant des commentaires des utilisateurs et en les encourageant à signaler une mauvaise sortie Chatgpt.

3. Chatgpt peut prendre des emplois chez les humains

Après le développement rapide et le déploiement de Chatgpt, la poussière n'a pas encore réglé et la technologie sous-jacente derrière elle a été cousue dans de nombreuses applications commerciales.Parmi les applications qui ont intégré le GPT-4 figurent Duolingo et Khan Academy.

Le premier est une application d'apprentissage des langues et la seconde est un outil d'apprentissage éducatif diversifié.Les deux offrent ce qui est essentiellement un tuteur d'IA, soit sous la forme d'un personnage d'IA, à qui vous pouvez parler dans la langue que vous apprenez.Ou en tant que mentors IA qui peuvent fournir des commentaires sur mesure sur votre apprentissage.

D'une part, cela pourrait changer la façon dont nous apprenons, ce qui rend potentiellement l'éducation plus accessible et le processus d'apprentissage un peu plus facile.Mais lors de la baisse, il enlève des emplois qui ont longtemps été occupés par les humains.

Les progrès technologiques entraînent toujours des pertes d'emplois, mais la vitesse à laquelle l'IA progresse signifie que plusieurs industries sont confrontées au même problème.De l'éducation à l'illustration en passant par les rôles de service client, Chatgpt et sa technologie sous-jacente remodeleront complètement notre monde moderne.

4. Chatgpt a un impact sur l'industrie de l'éducation

Vous pouvez demander à Chatgpt pour revoir votre texte ou indiquer comment améliorer un paragraphe.Ou, vous pouvez vous retirer complètement de l'équation et laisser Chatgpt faire tout le travail d'écriture pour vous.

Les enseignants ont essayé de fournir des affectations en anglais à Chatgpt et ont reçu de meilleures réponses que beaucoup de leurs élèves ne pouvaient le faire.De la rédaction de lettres de motivation à la description des principaux thèmes des œuvres de littérature célèbres, le chatppt peut tout faire sans hésitation.

Lorsque les élèves commencent à utiliser Chatgpt pour aider à rédiger des essais, les écoles devront trouver des réponses rapidement.Le déploiement rapide de l'intelligence artificielle au cours des dernières années est sûr de secouer de nombreuses industries, et l'éducation n'est que l'un d'entre eux.

5. Chatgpt pourrait être nocif pour le monde réel

La vitesse à laquelle le texte à consonance naturelle est généré permet aux escrocs de se faire passer pour les personnes que vous connaissez sur les réseaux sociaux.De même, découvrir des e-mails de phishing conçus pour extraire des détails sensibles de vous a été simplifié.Un avantage supplémentaire est que ChatGpt peut générer du texte sans erreurs grammaticales - une fois un drapeau rouge clair.

La diffusion de fausses informations est également une préoccupation sérieuse, et l'ampleur du texte de texte peut générer, combinée à la capacité de désinformation convaincante, est sûr de rendre les informations sur Internet encore plus suspectes.

6. Openai détient toute la puissance

Avec un grand pouvoir vient une grande responsabilité, et Openai a un pouvoir énorme.C'est l'une des premières entreprises d'IA à vraiment changer le monde avec plusieurs modèles d'IA génératifs, notamment Dall-E 2, GPT-3 et GPT-4.

OpenAI choisit les données à utiliser pour former Chatgpt, mais ces informations ne sont pas disponibles pour le public.Nous ne connaissons tout simplement pas les détails de la façon dont Chatgpt est formé, quelles données sont utilisées, d'où vient les données ou à quoi ressemble l'architecture détaillée du système.

En fin de compte, nous devons faire confiance aveuglément Openai pour rechercher de manière responsable, développer et utiliser le chatppt, et Openai continuera de développer le chatppt en fonction de ses propres objectifs et normes éthiques, que nous soyons d'accord ou non avec les méthodes.

Conclusion

Il y a beaucoup de choses passionnantes à propos de Chatgpt, mais au-delà de ses utilisations immédiates, il y a de graves problèmes qui méritent d'être compris.OpenAI reconnaît que Chatgpt peut produire des réponses nocives et biaisées et espère atténuer ce problème en rassemblant les commentaires des utilisateurs.Mais même si ce n'était pas le cas, cela génère un texte convaincant qui pourrait facilement être exploité par des personnes malveillantes.

En utilisant une toute nouvelle technologie, il est difficile de prédire quels problèmes surviendront à l'avenir.Ainsi, même si cela peut être amusant à utiliser, assurez-vous de ne pas croire que tout ce que dit Chatgpt.