Maroc - INFORMATICIEN.BE - Actualités - 07/Aug 14:09

Les « invites secrètes » d'Apple pour empêcher son IA d'halluciner

De nouvelles informations fuitent sur l'intelligence artificielle d' Apple . En effet, un utilisateur de Reddit a découvert plusieurs instructions intégrées dédiées à l' IA développant Cupertino dans la version bêta de macOS 15.1 . Ces invites sont notamment dédiées à la fonction Smart Reply, qui aura pour but d'éviter les hallucinations de la part de l'IA. Smart Reply est une fonctionnalité qui permettra aux utilisateurs de répondre immédiatement aux e-mails car elle est capable d'identifier les questions incluses dans le message et, par conséquent, de suggérer des réponses appropriées. Selon la description de la fonctionnalité fournie par Apple lui-même, l'outil utilise l'intelligence artificielle : ce n'est qu'ainsi qu'il est capable de suggérer des réponses pertinentes. Revenant aux instructions évoquées ci-dessus, elles sont contenues dans le fichier JSON de la bêta de macOS et ont le mérite de mettre en lumière la façon dont Apple tente de parfaire l'efficacité de Smart Reply : « Utilisez une réponse intelligente dans Mail pour rédiger rapidement une réponse par e-mail avec tous les détails nécessaires. Apple Intelligence peut identifier les questions qui vous ont été posées dans un e-mail et proposer des sélections pertinentes à inclure dans votre réponse. En quelques clics, vous êtes prêt à envoyer une réponse contenant des réponses aux questions clés. Une autre invite est donc encore plus claire : « N'inventez pas d'informations factuelles . » L’objectif d’Apple est donc d’éviter des erreurs assez courantes en IA, à savoir celle d’inventer des informations ou de ne pas être complètement véridique. D'autres instructions dans les fichiers contiennent cependant des commandes supplémentaires : - Identifier les questions pertinentes dans les courriels ; - Générer des réponses possibles pour chaque question ; - Évitez les questions auxquelles vous avez déjà répondu dans l'extrait de réponse ; - Générez des questions ne dépassant pas 8 mots ; - Donnez votre sortie au format JSON. Il est donc clair que la volonté de Cupertino est de soigner chaque détail de son intelligence artificielle, afin de garantir aux utilisateurs une expérience utile et efficace. Cependant, ce n’est pas une mission simple étant donné que l’IA, du moins jusqu’à présent, s’est souvent révélée imprévisible. (Lire la suite)