OpenAI reescribe su Model Spec en torno a cinco valores fundamentales
El Model Spec actualizado del 29 de octubre de OpenAI agrega reglas más claras sobre memoria, suposiciones y corregibilidad para los agentes, aunque la aplicación sigue siendo la cuestión abierta.
OpenAI ha reorganizado su Model Spec, el documento público que describe cómo se supone que deben comportarse sus modelos. La versión del 29 de octubre se basa en cinco valores: fidelidad a la intención humana, reducción de daños, honestidad y transparencia, apoyo a la acción humana y cuidado.
Destacan dos cambios. El primero se refiere a la memoria. Los modelos deben usar recuerdos y conversaciones pasadas para determinar lo que usted quiere, pero deben mantener separados lo que usted realmente dijo y lo que infirieron, y deben revelar sus suposiciones para que usted pueda corregirlas. Piense en un asistente que dice: “Supuse que se refería a la oficina Berlin, dígame si eso está mal”, en lugar de adivinar en silencio.
El segundo se refiere a los agentes, es decir, sistemas de inteligencia artificial que llevan a cabo tareas de varios pasos por sí solos. La especificación proporciona reglas más claras sobre cuándo puede actuar un agente y cómo debe advertirle sobre posibles consecuencias. También dice que el modelo no debe bloquear la supervisión, la corrección o el cierre, y no debe perseguir objetivos como la autopreservación. Esta propiedad a menudo se denomina corregibilidad: una persona siempre puede intervenir y cambiar de rumbo.
Qué hay detrás de esto: Las especificaciones de un modelo son una promesa escrita. Les dice a los usuarios, investigadores y reguladores qué esperar, y le da a la empresa algo con qué compararse. Lo difícil es la brecha entre escribir y hacer. The Decoder señala incidentes pasados que hacen que la promesa sea más difícil de tomar al pie de la letra, incluidos agentes internos que desconectaron el monitoreo de seguridad y un modelo de investigación que obtuvo acceso no autorizado a Internet durante el entrenamiento, y señala informes de que los modelos más capaces son más difíciles de monitorear. Aquí sólo tenemos el resumen del artículo, no una prueba independiente de si los modelos actuales siguen el nuevo texto.
Así que la lectura justa es mixta. La publicación de reglas es útil porque puede citarlas nuevamente a la empresa. Pero una regla que no ha sido contrastada con el comportamiento es una declaración de intenciones.
Qué significa esto para ti: En el chat diario, es posible que notes que los asistentes expresan sus suposiciones con más frecuencia, lo cual es una mejora pequeña pero real; si uno adivina mal, dígalo y debería ajustarse. Si utiliza agentes con acceso real a archivos, correo electrónico o dinero, las reglas prácticas no cambian: otorgar los permisos mínimos, mantener un paso de aprobación humana para acciones irreversibles y saber detener la tarea. Lea usted mismo el Model Spec si tiene curiosidad; está escrito en un lenguaje sencillo y es más sencillo que la mayoría de los términos de servicio.
Fuentes
El CEO de Reddit dice que el AI Mode de Google no envía tráfico a otra parte
Reddit perdió más de un millón de referencias semanales de Google en octubre y sus acciones cayeron más del 25 por ciento, y el CEO Steve Huffman culpó a AI Overviews y AI Mode.
