Nous n’avons pas une longue liste de valeurs. Quatre suffisent. La façon honnête de les mesurer n’est pas de les énoncer, mais de regarder ce qu’elles coûtent quand il devient inconfortable de les appliquer.
Transparence
Nous disons ce que nous savons et ce que nous ne savons pas, en gardant les deux distincts. Dans la recherche, cela signifie séparer ce qui est établi de ce qui reste contesté, et publier aussi les résultats nuls : ils constituent la part manquante de la littérature actuelle, et la raison pour laquelle des champs entiers demeurent confus. Si une piste ne mène nulle part, nous le disons, au lieu de redéfinir l’objectif après coup.
Honnêteté sur ce qui existe et ce qui n’existe pas
Nous ne présentons pas comme disponible une capacité qui reste une question ouverte. C’est le point le plus délicat de notre travail : MNEMOS étudie si la greffe contrôlée de nouvelles traces mnésiques peut devenir possible ; il ne la propose pas. Sur ces sujets, les mots font des dégâts, et les employer mal est le moyen le plus rapide de rendre un champ de recherche méconnaissable.
Cela vaut aussi pour le travail ordinaire : nous ne proposons pas ce qui n’est pas utile et n’acceptons pas des missions que nous ne pourrions pas suivre correctement. Quand nous ne sommes pas les bonnes personnes, nous préférons le dire.
Les personnes avant les données
Les informations qui nous sont confiées restent confidentielles et ne servent qu’au travail convenu. Nous collectons le minimum nécessaire, et nous le disons à l’avance. Qui participe à une recherche choisit l’objectif — ce n’est pas le protocole qui le choisit à sa place — et peut se retirer en cours de route sans que cela lui coûte quoi que ce soit.
L’IA reste sous supervision humaine
Dans les systèmes que nous construisons, le moteur propose et une personne décide, avec des sources visibles et chaque choix reconstituable a posteriori. Nous ne fermons pas la boucle : un système qu’on laisse optimiser seul un objectif qui concerne des personnes trouve des raccourcis dont personne ne voudrait, et il les trouve plus vite que nous ne nous en apercevrions.
La limite
Certaines choses, nous ne les faisons pas, et il vaut la peine de les écrire en toutes lettres : aucune intervention sans consentement libre, éclairé et révocable ; aucun usage occulte ; aucune modification du comportement de qui ne l’a pas demandée, même lorsque quelqu’un la qualifierait de bienveillante.
Là où ces contraintes deviennent concrètes, c’est-à-dire dans la recherche sur la mémoire, nous les avons argumentées une à une dans les orientations de MNEMOS. C’est là que l’on voit si un principe tient.
La manière concrète dont nous essayons de mettre tout cela en pratique au quotidien est écrite dans nos règles de conduite.