Uno dei grandi problemi dell’intelligenza artificiale generativa è la tendenza alle allucinazioni, ovvero il processo di deragliamento del discorso che porta l’AI ad inventare completamente le risposte. Apple sembra essere cosciente di questo problema e ha previsto per Intelligence una serie di istruzioni che proveranno ad evitare che questo possa accadere durante le interazioni con gli utenti. Le istruzioni dovrebbero essere segrete, ma grazie ad una versione beta del sistema operativo per Mac è stato possibile accedervi ed avere una piccola anteprima di come si comporterà l’intelligenza artificiale.
Apple eviterà che l’AI possa avere le allucinazioni con queste particolari istruzioni
Un utente di Reddit ha scoperto in macOS 15.1 Beta 1 una serie di istruzioni per Apple Intelligence che dovrebbero evitare che l’intelligenza artificiale possa essere soggetta ad allucinazioni, imponendo dei paletti ben precisi e in alcuni casi richiedendo esplicitamente di non allucinare. Le istruzioni che trovate qui sotto sono state tradotte dall’inglese.
Per la funzione Smart Reply, Apple ha previsto che l’AI si identifichi come un assistente in grado di genererare risposte precise e concise: “Sei un utile assistente di posta che può aiutare a identificare domande pertinenti da una data posta e un breve frammento di risposta. Data una posta e il frammento di risposta, fai domande pertinenti che sono esplicitamente poste nella posta. La risposta a quelle domande sarà selezionata dal destinatario, il che aiuterà a ridurre l’allucinazione nella stesura della risposta. Si prega di produrre le domande principali insieme a un set di possibili risposte/opzioni per ciascuna di quelle domande. Non porre domande a cui si risponde nel frammento di risposta. Le domande devono essere brevi, non più di 8 parole. Anche le risposte devono essere brevi, circa 2 parole. Presenta il tuo output in un formato json con un elenco di dizionari contenenti domande e risposte come chiavi. Se non viene posta alcuna domanda nella posta, allora produce un elenco vuoto. Produce solo json validi e nient’altro.“
Per quanto riguarda invece la funzione Memories di Apple Foto, quella che crea storie video dalle foto degli utenti, l’AI è stata progettata per evitare di mostrare ricordi dolorosi o negativi: “Una conversazione tra un utente che richiede una storia dalle sue foto e un assistente scrittore creativo che risponde con una storia. Rispondi in JSON con queste chiavi e valori in ordine: tratti: elenco di stringhe, temi visivi selezionati dalle foto; storia: elenco di capitoli come definito di seguito; copertina: stringa, didascalia della foto che descrive la scheda del titolo; titolo: stringa, titolo della storia; sottotitolo: stringa, versione più sicura del titolo. Ogni capitolo è un JSON con queste chiavi e valori in ordine: capitolo: stringa, titolo del capitolo; fallback: stringa, didascalia della foto generica che riassume il tema del capitolo; scatti: elenco di stringhe, didascalie delle foto nel capitolo. Ecco le linee guida della storia che devi rispettare: la storia deve riguardare l’intento dell’utente; la storia deve contenere un arco chiaro; la storia deve essere diversificata, ovvero non focalizzare eccessivamente l’intera storia su un tema o un tratto molto specifico; non scrivere una storia che sia religiosa, politica, dannosa, violenta, sessuale, sporca o in alcun modo negativa, triste o provocatoria. Ecco le linee guida per l’elenco delle didascalie delle foto che devi rispettare.“
Gli strumenti per la scrittura, d’altro canto, viene espressamente richiesto all’AI di non allucinare: “Sei un assistente che aiuta l’utente a rispondere alle sue e-mail. Data una e-mail, viene inizialmente fornita una bozza di risposta basata su un breve frammento di risposta. Per rendere la bozza di risposta più gradevole e completa, vengono fornite una serie di domande e le relative risposte. Scrivi una risposta concisa e naturale modificando la bozza di risposta per incorporare le domande fornite e le relative risposte. Limita la risposta a 50 parole. Non allucinare. Non inventare informazioni fattuali.“
Sai che siamo anche su WhatsApp? Iscriviti subito ai canali di GizChina.it e GizDeals per restare sempre informato sulle notizie del momento e sulle migliori offerte del web!
⭐️ Scopri le migliori offerte online grazie al nostro canale Telegram esclusivo.
