Grandes problemas con chatgpt
ChatGPT es un nuevo y poderoso chatbot de inteligencia artificial, pero muchas personas han señalado que tiene algunos defectos serios.ChatGPT ha cometido más de un error.
1. ChatGPT genera respuestas incorrectas
A diferencia de otros asistentes de IA como Siri, ChatGPT no usa Internet para encontrar respuestas.En cambio, construye una oración por palabra por palabra y selecciona el siguiente "token" muy probable en función de su entrenamiento.En otras palabras, ChatGPT llega a una respuesta a través de una serie de conjeturas, que es una de las razones por las que puede tratar la respuesta incorrecta como completamente correcta.
Si bien es bueno para explicar conceptos complejos, lo que lo convierte en una herramienta de aprendizaje poderosa, es importante no creer todo en todo lo que dice.ChatGPT no siempre es correcto, al menos todavía no.
2. ChatGPT tiene un sesgo integrado en su sistema
ChatGPT ha sido entrenado para escribir colectivamente sobre seres humanos pasados y presentes en todo el mundo.Desafortunadamente, esto significa que los mismos sesgos que existen en el mundo real también pueden aparecer en el modelo.
Se ha demostrado que ChatGPT produce algunas respuestas terribles que discriminan a los grupos de género, raza y minorías, y Operai está tratando de mitigar esta discriminación.
Una forma de explicar el problema es señalar los datos como el problema, culpando a los humanos por los sesgos incrustados en Internet y en otros lugares.Pero parte de la culpa también se encuentra con OpenAi, cuyos investigadores y desarrolladores seleccionan los datos utilizados para capacitar a ChatGPT.
Una vez más, OpenAI sabe que este es un problema, y dice que están abordando lo que llaman "comportamiento sesgado" al recopilar comentarios de los usuarios y alentarlos a marcar la mala salida del chatgpt.
3. Chatgpt puede tomar trabajos de humanos
Después del rápido desarrollo y el despliegue de ChatGPT, el polvo aún no se ha establecido y la tecnología subyacente detrás de él se ha cosido en muchas aplicaciones comerciales.Entre las aplicaciones que han integrado GPT-4 están Duolingo y Khan Academy.
La primera es una aplicación de aprendizaje de idiomas y la segunda es una herramienta de aprendizaje educativo diversa.Ambos ofrecen lo que es esencialmente un tutor de IA, ya sea en forma de carácter de IA con el que pueda hablar en el idioma que está aprendiendo.O como mentores de IA que pueden proporcionar comentarios personalizados sobre su aprendizaje.
Por un lado, esto podría cambiar la forma en que aprendemos, potencialmente facilitando un poco el proceso de aprendizaje y el proceso de aprendizaje.Pero en el lado negativo, se llevan los trabajos que han sido retenidos por los humanos.
Los avances tecnológicos siempre conducen a la pérdida de empleos, pero la velocidad a la que la IA avanza significa que múltiples industrias enfrentan el mismo problema.Desde la educación hasta la ilustración y los roles de servicio al cliente, ChatGPT y su tecnología subyacente reestructurarán por completo nuestro mundo moderno.
4. ChatGPT afecta a la industria educativa
Puede pedirle a ChatGPT que revise su texto o señale cómo mejorar un párrafo.O bien, puede sacarse completamente de la ecuación y dejar que ChatGPT haga todo el trabajo de escritura por usted.
Los maestros han intentado proporcionar tareas de inglés a ChatGPT y han recibido mejores respuestas de lo que muchos de sus estudiantes podrían hacer.Desde escribir cartas de presentación hasta describir los temas principales de las obras famosas de literatura, ChatGPT puede hacerlo todo sin dudarlo.
Cuando los estudiantes comiencen a usar ChatGPT para ayudar a escribir ensayos, las escuelas tendrán que encontrar respuestas rápidamente.El rápido despliegue de la inteligencia artificial en los últimos años seguramente sacudirá muchas industrias, y la educación es solo una de ellas.
5. Chatgpt podría ser perjudicial para el mundo real
La velocidad a la que se genera el texto de sonido natural facilita a los estafadores hacerse pasar por personas que conoces en las redes sociales.Del mismo modo, se ha simplificado descubrir correos electrónicos de phishing diseñados para extraer detalles confidenciales.Un beneficio adicional es que ChatGPT puede generar texto sin errores gramaticales, una vez una bandera roja clara.
La difusión de información falsa también es una preocupación seria, y la escala del ChatGPT de texto puede generar, combinada con la capacidad de hacer que la información errónea sea convincente, seguramente hará que la información en Internet sea aún más sospechosa.
6. OpenAi posee todo el poder
Con un gran poder viene una gran responsabilidad, y OpenAi tiene un tremendo poder.Es una de las primeras compañías de IA en cambiar realmente el mundo con múltiples modelos de IA generativos, incluidos Dall-E 2, GPT-3 y GPT-4.
OpenAI elige qué datos usar para capacitar a ChatGPT, pero esta información no está disponible para el público.Simplemente no sabemos los detalles de cómo se capacita el chatgpt, qué datos se usan, de dónde provienen los datos o cómo se ve la arquitectura detallada del sistema.
En última instancia, debemos confiar ciegamente en OpenAi para investigar, desarrollar y usar chatgpt, y OpenAI continuará desarrollando ChatGPT de acuerdo con sus propios objetivos y estándares éticos, ya sea que estemos de acuerdo con los métodos o no.
Conclusión
Hay muchas cosas emocionantes sobre ChatGPT, pero más allá de sus usos inmediatos, hay serios problemas que merecen ser entendidos.Openai reconoce que ChatGPT puede producir respuestas dañinas y sesgadas, y espera mitigar este problema recopilando comentarios de los usuarios.Pero incluso si este no fuera el caso, genera un texto convincente que fácilmente podría ser explotado por personas con intención maliciosa.
Utilizando una tecnología nueva, es difícil predecir qué problemas surgirán en el futuro.Entonces, si bien puede ser divertido de usar, asegúrese de no creer todo lo que dice Chatgpt.