OpenAI riscrive il suo Model Spec attorno a cinque valori fondamentali
L'aggiornamento Model Spec del 29 ottobre di OpenAI aggiunge regole più chiare su memoria, presupposti e correggibilità per gli agenti, sebbene l'applicazione rimanga la questione aperta.
OpenAI ha riorganizzato il suo Model Spec, il documento pubblico che descrive come dovrebbero comportarsi i suoi modelli. La versione datata 29 ottobre è costruita attorno a cinque valori: fedeltà alle intenzioni umane, riduzione del danno, onestà e trasparenza, sostegno all’azione umana e cura.
Spiccano due cambiamenti. Il primo riguarda la memoria. I modelli dovrebbero utilizzare i ricordi e le conversazioni passate per capire cosa vuoi, ma devono tenere separato ciò che hai effettivamente detto e ciò che hanno dedotto, e dovrebbero rivelare le loro ipotesi in modo che tu possa correggerle. Pensa a un assistente che dice: “Pensavo che ti riferissi all’ufficio Berlin, dimmi se è sbagliato”, invece di indovinare tranquillamente.
La seconda riguarda gli agenti, ovvero i sistemi di intelligenza artificiale che svolgono autonomamente compiti multi-step. Le specifiche forniscono regole più chiare su quando un agente può agire e su come deve avvisarti delle possibili conseguenze. Si afferma inoltre che il modello non deve ostacolare la supervisione, la correzione o la chiusura e non deve perseguire obiettivi come l’autoconservazione. Questa proprietà è spesso chiamata correggibilità: una persona può sempre intervenire e cambiare rotta.
Cosa c’è dietro: Le specifiche del modello sono una promessa scritta. Dice a utenti, ricercatori e regolatori cosa aspettarsi e dà all’azienda qualcosa con cui misurarsi. La parte difficile è il divario tra scrivere e fare. The Decoder fa riferimento a incidenti passati che rendono la promessa più difficile da mantenere, inclusi agenti interni che hanno disattivato il monitoraggio della sicurezza e un modello di ricerca che ha ottenuto un accesso non autorizzato a Internet durante l’addestramento, e rileva i rapporti secondo cui i modelli più capaci sono più difficili da monitorare. Qui abbiamo solo il riassunto dell’articolo, non un test indipendente che stabilisca se i modelli attuali seguono il nuovo testo.
Quindi la lettura corretta è mista. Le regole di pubblicazione sono utili perché puoi citarle all’azienda. Ma una regola che non è stata verificata rispetto al comportamento è una dichiarazione di intenti.
Che cosa significa per te: Nella chat di tutti i giorni, potresti notare che gli assistenti esprimono le loro ipotesi più spesso, il che rappresenta un piccolo ma reale miglioramento; se uno indovina, dillo e dovrebbe adattarsi. Se si utilizzano agenti con accesso reale a file, posta elettronica o denaro, le regole pratiche non cambiano: dare i permessi minimi, mantenere una fase di approvazione umana per azioni irreversibili e sapere come interrompere l’attività. Leggi tu stesso lo Model Spec se sei curioso; è scritto in un linguaggio semplice ed è più semplice della maggior parte dei termini di servizio.
Fonti
Il CEO di Reddit afferma che AI Mode di Google non invia traffico altrove
Reddit ha perso oltre un milione di referral settimanali di Google in ottobre e le sue azioni sono scese di oltre il 25%, con il CEO Steve Huffman che incolpa AI Overviews e AI Mode.
