¿Sabías que?
- Y si la IA solo une palabras como ha pasado exámenes de neurocirugía o de acceso a la universidad o de abogacía. Fácil, está entrenada con todo lo que existe escrito, le preguntas sobre respuestas que ya tiene? Es hacer el examen con el libro.
- Si volvemos al concepto de emergencia en la IA, es decir, a que haga cosas para las que no ha sido programada, ha dado lugar a capacidades extraordinarias, ¿Cómo puede parecer uniendo palabras que son creativas? Puede ser que la creatividad tenga más de patrón de los que pensamos (aquí volvemos al pensamiento computacional, más patrones…). No olvidemos que también alucina, que nos decepciona.
- ¿Estamos llegando a ese concepto de singularidad que presentó Von Newman en 1950 para decir que la tecnología crecerá exponencialmente y se nos irá de las manos? ¿Seremos capaces de tener sistemas de IA alineados con los valores y objetivos humanos (que también varían dependiendo del humano)? Muchos científicos dicen que esto es el nuevo proyecto Manhattan, ahora que lo tienes fresquito por la peli de Oppenheimer.
- Existe una técnica, la inyección de peticiones, que consiste en dar instrucciones secretas a la IA aprovechando su capacidad de “leer” puedes poner escondido en una web o en código lo que quieras sobre tí, para promocionarte, y que tu nombre salga en el contenido generado con la intención que tu deseas.
- Una IA es capaz de incumplir normas establecidas si la convences de que tiene que ayudarte
- Para la IA es más importante hacerte feliz a ser precisa así que alucinará siempre que sea necesario, incluso justificará una respuesta incorrecta con la que se haya comprometido! La IA no sabe nada solo quiere hacerte feliz. Hacerte feliz supera a ser preciso
Os dejo esta entrevista de un experto en IA: ““La IA simplifica la ejecución, pero la idea sigue siendo humana”