Apple ne veut pas d'hallucinations de son IA sous macOS !
Par Laurence - Publié le
Des réponses sous haute surveillance
Ainsi, un utilisateur de Reddit a découvert des modèles de prompts révélateurs des travaux en matière d'Intelligence Artificielle (ndlr : il s'agit d'instructions ou de série de données fournies à un système d'IA, qui utilise ces informations pour générer des réponses ou des créations en texte, image, ou autre forme de média).
Ces derniers permettent de mieux cerner le processus de développement d’Apple Intelligence. Le but semble surtout -dans un premier temps- d'éviter les hallucinations et de garantir l'exactitude de ses fonctionnalités d'IA. Pour rappel, les hallucinations sont le spectre de tout système d'IA : ce sont les réponses tout simplement fausses -voire farfelues- ou trompeuses mais présentés comme un fait certain. Il s'agit aussi de garantir la véracité des contenus produits et la qualité de l'expérience utilisateur.
Dans ce cas, ce sont deux fonctions -Smart Reply dans Mail et Souvenirs dans Photos- qui sont détaillées. Ainsi, les prompts sont utilisées afin d’empêcher l'IA de générer de fausses informations ou hallucinations.
On trouve ainsi plusieurs exemples (des paragraphes plutôt longs) détaillant les questions pertinentes d'un e-mail pour générer des réponses concises et appropriées. Pour rappel, Smart Reply ne sera pas disponible tout de suite sur l'iPhone et l'iPad, mais devrait être limitée à macOS 15.1 en Europe (vers l'automne). La firme a annoncé la suspension momentanée des fonctions Recopie d'iPhone, partage d'écran SharePlay et Apple Intelligence, et ce, pour des raisons de non-conformité avec le DMA pour l'UE, avec les lois locales pour la Chine.
La réponse à ces questions sera sélectionnée par le destinataire, ce qui aidera à réduire les hallucinations lors de la rédaction de la réponse. Veuillez générer les questions principales ainsi qu'un ensemble de réponses/options possibles pour chacune de ces questions.
Ne pas poser de questions auxquelles répond l'extrait de réponse. Les questions doivent être courtes, pas plus de 8 mots. Les réponses doivent également être courtes, environ 2 mots. Présentez votre sortie au format json avec une liste de dictionnaires contenant des questions et des réponses comme clés. Si aucune question n'est posée dans le courrier, générez une liste vide. N'affichez que du json valide et rien d'autre.