La IA podría escribir como un humano. La capacitación en seguridad es lo que lo delata
El CTO de Pangram sostiene que los modelos de lenguaje son detectables no porque carezcan de capacidad sino porque el entrenamiento posterior limita la forma en que se expresan. El efecto tiene un nombre: colapso del modo.
Aquí hay una afirmación que vale la pena considerar: los modelos lingüísticos podrían, en principio, escribir con toda la variedad de seres humanos, y la razón por la que no lo hacen es un efecto secundario de cómo los entrenamos para comportarse. Ese es el argumento que Bradley Emi, director de tecnología del detector de texto con IA Pangram, presentó en una publicación del 20 de agosto, y replantea lo que la detección de IA realmente está detectando.
El mecanismo tiene un nombre: colapso del modo. Durante la capacitación posterior, la etapa posterior a que un modelo ha leído Internet y donde aprende reglas de comportamiento, se le enseña a evitar resultados peligrosos, rechazar ciertas solicitudes y mantenerse dentro de límites particulares. Esa formación no sólo elimina las malas opciones. Reduce todo el rango, por lo que el modelo se instala en una forma preferida de expresar las cosas en lugar de distribuir sus opciones entre las muchas formas en que una persona podría decir la misma oración. El estado opuesto, donde la probabilidad se distribuye más uniformemente entre las frases, se denomina cobertura modal. La evidencia que respalda a Emi es la excepción que confirma la regla: los modelos base, las versiones sin procesar antes del post-entrenamiento, escriben con suficiente variedad como para que el detector de Pangram no los señale. Lo mismo ocurre con los ajustes estrechos entrenados sólo en Hemingway o en un subreddit, y con la producción rota e incoherente.
Si eso es correcto, explica muchas cosas que de otro modo parecerían coincidencias, incluido el hábito de correr que, según el estudio de Pew en la web, aumenta a la par que el uso de la IA. También crea una tensión genuina. Cada barandilla de seguridad que agrega un laboratorio hace que la escritura del modelo sea un poco más uniforme y, por lo tanto, un poco más fácil de detectar. Se podría leer esto como un feliz accidente, ya que la detectabilidad es útil. También se podría leer como evidencia de que estamos aplanando estos sistemas de maneras que nadie eligió deliberadamente. Emi señala un límite importante: todo esto se aplica sólo al texto sin marca de agua, la firma estadística invisible que Anthropic comenzó a incorporar en la producción de Claude a principios de este mes. Es probable que las marcas de agua sigan funcionando independientemente de cuán variada sea la escritura de un modelo.
Qué significa esto para usted: si se ha preguntado por qué el texto escrito con IA tiene un “sonido”, ahora sabe que no es una limitación de la tecnología, sino una consecuencia de la capacitación que hace que su uso sea seguro. En la práctica, esta es una razón para no confiar ciegamente en los detectores en ninguna dirección. Una persona que escribe en un registro limpio, cuidadoso y ligeramente formal les hará tropezar, y alguien que utilice un modelo sin filtros puede que no. Si alguna vez eres el receptor del veredicto de un detector, en la escuela o en el trabajo, esa asimetría es lo que debes señalar.
Fuentes
Fuentes: https://pangram.substack.com/p/no-llms-dont-just-mimic-human-text
Amazon acaba de hacer que su asistente de inteligencia artificial sea gratuito en Fire TV y silenciosamente eliminó una tarifa de 19,99 dólares
Alexa+ se está implementando en todos los dispositivos Fire TV de EE. UU. compatibles sin costo alguno y no se requiere membresía Prime. La actualización es automática. El problema es que el nivel gratuito termina en la televisión.
