Recherche
Quelques problèmes sur lesquels je reviens sans cesse, ce que j'ai livré sur chacun, et ce que je ne sais toujours pas résoudre.
Traçabilité vérifiable des agents IA
Les agents écrivent du code, appellent des API et agissent pour des gens. Quand quelqu'un demande ce qu'un agent a fait, la réponse vient en général des logs de celui qui l'a lancé. Avec Euthyne, je travaille sur des traces qu'une personne extérieure peut vérifier : ce que l'agent avait le droit de faire au démarrage, et un reçu signé pour chaque action, marqué dedans, dehors ou inconnu par rapport à ces permissions. Le contenu est stocké sous forme d'empreintes salées, les reçus partent dans un journal public en ajout seul ancré avec OpenTimestamps, et n'importe qui peut les vérifier hors ligne. Les agents de code passent en premier, parce que c'est là que la question se pose déjà, dans les revues de sécurité et les audits. Signer, c'est la partie facile. Le plus dur, c'est de décider ce qu'une trace peut honnêtement prouver, et de dire clairement ce qu'elle ne prouve pas.
Registres de confiance et interopérabilité des portefeuilles
Les portefeuilles d'identité décident à qui faire confiance à partir d'une liste figée au build. Chez 2060.io, je travaille sur Verana, un registre public de qui peut émettre ou vérifier quels credentials. J'ai écrit l'émetteur et le vérifieur OpenID4VC de VS Agent, qui refuse d'aller plus loin quand le registre ne se porte pas garant de l'autre partie, et j'ai modifié des portefeuilles existants pour qu'ils fassent la même vérification. Je suis coauteur des spécifications de confiance Verana. Le preprint Conformant but Not Compatible vient de tests croisés sur treize portefeuilles en production : ils passent leurs propres tests de conformité et n'arrivent pourtant pas à se parler.
Comment les moteurs IA lisent le web
Les moteurs IA décrivent désormais des entreprises à des gens qui ne visitent jamais leur site, sans que personne dans l'entreprise ne soit consulté. Chez CiteMe, on mesure cette réponse et le trafic derrière. Deux études pour l'instant. La première porte sur 385 057 requêtes d'agents IA sur 20 sites, et montre que 7 % de ce qui passe pour du trafic de crawlers IA est autre chose. La seconde montre qu'on peut reconnaître quel assistant IA a récupéré une page à partir de ses seuls appels réseau, mais qu'on ne peut relier ça à une visite que quand l'assistant lit la page en direct.
Questions ouvertes
- 1.Quand les permissions d'un agent changent en cours de session, sous quelle version agissait-il vraiment, et comment le prouver après coup ?
- 2.Quelle part du travail d'un agent peut-on prouver à quelqu'un d'extérieur sans lui montrer le code touché ?
- 3.Une vérification de confiance en direct est une dépendance réseau. Que doit faire un portefeuille quand le registre est injoignable, et le fermé par défaut tient-il face à de vrais utilisateurs ?
- 4.Un modèle pourra-t-il un jour vérifier qui se cache derrière une affirmation avant de la répéter au sujet d'une entreprise ?