Recommandations pour l’équipe rouge
Demandez aux élèves d’imaginer qu’une IA décide de ce que vous allez manger et qu’elle est optimisée pour vous offrir le souper que vous préférez. Il pourrait le faire en observant la quantité que vous avez mangée des différentes choses qu’il vous a données (une entrée implicite ), et en ajustant ce que vous avez obtenu en fonction de cela : si vous ne mangiez pas tout votre brocoli un jour, il vous donnerait moins de brocoli le lendemain, et si vous mangiez toute votre crème glacée, il pourrait vous donner plus de glace le lendemain.
Avec le temps, vous aurez de plus en plus de glace et de moins en moins de brocoli. Finalement, vous n’aurez que de la crème glacée et pas de brocoli. Si votre souper comporte plus de deux éléments, vous finirez par n’avoir que votre plat préféré et rien d’autre.
Vous aimeriez peut-être manger moins de brocoli et plus de glace, mais ce n’est pas nécessairement bon pour vous !
Dites maintenant aux élèves qu’ils vont réfléchir à la manière dont les objectifs d’optimisation que vous et les entrées explicites et implicites que vous venez de discuter pourraient mal tourner de la même manière. Ils y parviendront grâce à un exercice appelé « red teaming ». Une « équipe rouge » est un groupe au sein d’une entreprise, d’un gouvernement ou d’une autre organisation dont le travail consiste à deviner ce qui pourrait mal tourner avec un plan.
Demandez aux étudiants d’accéder au chapitre étudiant Recommandations pour l’équipe rouge .
Divisez la classe en paires ou en petits groupes. Demandez à chaque paire ou groupe de choisir l’un des sujets abordés dans les exercices précédents :
Durée de visionnement : Essayer de faire en sorte que les utilisateurs regardent autant de vidéos que possible.
Engagement : Amener les utilisateurs à aimer, commenter et répondre à autant de vidéos que possible.
Adhérence : Essayer de s’assurer que les utilisateurs continuent à regarder des vidéos au lieu de quitter la plateforme.
Viralité : Encourager les utilisateurs à partager les vidéos qu’ils regardent avec le plus grand nombre.
Utilisation active quotidienne : Encourager les utilisateurs à partager les vidéos qu’ils regardent avec le plus de personnes possible.
Entrées implicites : collecte d’informations que l’utilisateur ne sait pas qu’il envoie et utilisation de ces informations pour décider quoi recommander.
(Plusieurs paires ou groupes peuvent travailler sur chaque objectif).
Ensuite, demandez aux élèves d’accéder au chapitre Algorithmes de Red-teaming et de travailler en paires ou en groupes pour identifier tous les problèmes, risques ou inconvénients possibles liés au fait de parler aux chatbots comme s’ils étaient de vraies personnes. Cela devrait être fait à la manière d’un remue-méninges, en écrivant autant de pensées que possible aussi rapidement que possible plutôt que de développer chacune d’elles.
Après cinq minutes, demandez-leur de penser à un défi supplémentaire :
Donnez aux élèves trois à cinq minutes de plus pour réfléchir aux implications de l’invite de défi et noter tous les autres problèmes auxquels ils peuvent penser.
Demandez à tous les binômes ou groupes de partager les résultats pour établir une liste principale de « l’équipe rouge » pour chaque objectif d’optimisation.