Quand des données inoffensives deviennent presque une sorte de voyance
La plupart d'entre nous ont commencé à utiliser l'IA de la même manière : Posez une question → Obtenez une réponse.
Puis, beaucoup d’entre nous ont pris des mesures supplémentaires : des instructions plus claires, davantage de contextes, peut-être quelques documents supplémentaires : Informations + Instructions → Travail à réaliser.
Un rapport. Une présentation. Une analyse. Un plan.
Mais il existe une autre façon d’utiliser l’IA que je trouve beaucoup plus intéressante : Informations dispersées → IA → Inférence.
Au lieu de demander à l’IA de produire quelque chose à partir des informations que nous lui fournissons, nous pouvons demander : Qu’ont-ils à nous dire lorsque nous les combinons ?
Et cela peut produire des résultats étonnamment puissants.
L’IA peut nous aider à comprendre ce que personne n’a réellement dit
Imaginez deux collègues qui sont très en désaccord sur une décision. Donnez à l’IA les deux côtés de la discussion et demandez : Que peut-on voir par chacun d’entre eux que l’autre ne voit pas ? Quels problèmes pourraient expliquer leurs positions respectives ?
Ou imaginez préparer une conversation avec un client important : donnez à l’IA les discussions précédentes, ce que vous comptez réaliser et les informations publiques pertinentes concernant l’organisation du client. Demandez-lui d’identifier les priorités possibles, les préoccupations, les points d’entrée de la conversation et les objections probables. Le même phénomène s’applique aux changements organisationnels : les services financiers, les services d’ingénierie, les services commerciaux et les services d’exploitation pourraient entendre le même message de manière très différente. L’IA peut aider à anticiper ces perspectives avant de communiquer.
Tout cela n'est pas une lecture de l'esprit. C'est une interprétation – une pratique que les humains pratiquent depuis toujours en écoutant, en observant et en associant des informations. Ce qui change, c'est la facilité avec laquelle l'IA peut effectuer cette tâche à travers de grandes quantités d'informations, y compris les informations non structurées qui, auparavant, nécessitaient un effort considérable de la part de l'être humain pour être connectées.
De plus en plus, tout le monde ayant accès à un outil d’IA généraliste peut tout simplement demander : “ Qu’est-ce que vous pensez vraiment se passer ici ? ” Et c’est là que quelque chose d’incroyablement utile commence à devenir quelque chose dont nous devons réfléchir attentivement.
Lorsque des données inoffensives cessent de se sentir innocentes
Pensez aux informations que nous laissons derrière nous chaque jour : un post sur les réseaux sociaux, quelques recherches, les articles que nous lisons, les questions que nous posons, les mots que nous choisissons. Même lorsque nous réagissons et comment nous réagissons, de nombreux de ces signaux peuvent révéler très peu de choses. Mais l’IA n’a pas besoin de les examiner individuellement. Elle peut les relier.
À partir d’informations apparemment banales, il est possible de déduire des intérêts, des préoccupations, des préférences, des circonstances ou des comportements probables que quelqu’un n’a jamais explicitement révélés. Ajoutez d’autres signaux numériques – cookies, pixels de suivi ou enregistrement des caractéristiques du navigateur, par exemple – et l’image devient encore plus riche. L’IA ne peut pas littéralement lire notre esprit.
Mais peut-être n’a-t-il pas besoin de le faire. Si l’IA peut associer suffisamment de fragments apparemment inoffensifs pour déduire, avec une probabilité raisonnable, ce que quelqu’un veut, s’inquiète ou pourrait faire ensuite, une organisation peut potentiellement agir sur quelque chose qu’elle pense connaître à propos d’une personne, même si cette personne n’en a jamais explicitement fait mention.
Et là commence l’impact réel. La question importante n’est plus simplement ce que l’IA peut déduire. C’est plutôt ce qui arrive lorsque quelqu’un agira sur cette conclusion.
La même conclusion. Des résultats complètement différents.
Imaginez une organisation utilisant l'IA pour analyser une série de signaux courants et en conclut : ce client est peut-être soumis à une pression financière croissante. Le client n'a jamais dit ça. L'IA en a déduit.
Que devrait-on faire ensuite ?
Peut-être que l’organisation utilise cette information pour reconnaître que le client pourrait avoir besoin d’un soutien supplémentaire. Peut-être évite-t-elle de lui proposer un produit inapproprié. Ces utilisations de l’IA pourraient être véritablement bénéfiques. Mais cette même conclusion pourrait être utilisée différemment.
Peut-être l’organisation décide-t-elle que cette personne est désormais un client moins attrayant. Ou peut-être elle découvre que la pression financière rend un message, une offre ou un sentiment d’urgence plus susceptible d’influencer leur décision.
Et il existe une autre possibilité : l’interprétation par l’IA est probabiliste et peut être fausse. Un ensemble de signaux qui semblent indiquer une seule histoire peuvent avoir une explication complètement différente. Cela ne signifie pas que nous devrions cesser d’utiliser l’interprétation. La question de la gouvernance consiste à savoir comment l’utiliser, quel problème nous cherchons à résoudre et que se passe-t-il si l’interprétation est fausse.
La valeur et le risque ne viennent pas seulement de ce que l’IA peut déduire, mais aussi de ce que nous choisissons de faire avec elle.
Ce n’est pas un vide réglementaire
L’inférence en soi n’est pas un concept nouveau en matière de confidentialité. Le profilage et les informations tirées de ces conclusions sont déjà des sujets établis dans le droit de la protection des données. Les principes existants concernant l’équité, la transparence, la limitation des objectifs, la minimisation des données et la prise de décisions automatisée restent très pertinents.
Le Loi sur l’IA de l’UE Ce qui ajoute une autre couche aux pratiques spécifiques de l’IA et à ses applications à plus haut risque. La question intéressante n’est donc pas de savoir si quelqu’un a soudain découvert une activité totalement non réglementée appelée “ IA inference ”. Ce qui change réellement est la facilité avec laquelle des IA sophistiquées peuvent désormais être réalisées par un nombre beaucoup plus grand de personnes.
De l’usage quotidien de l’IA à l’échelle d’entreprise
Un employé utilisant un outil d’IA à usage général ordinaire peut déjà combiner une conversation, un contexte interne et des informations publiques et demander ce qu’il pourrait révéler au sujet d’un client. Les politiques en matière d’IA doivent donc tenir compte non seulement de la nature des informations qui entrent dans l’IA, mais aussi de la nouvelle information qui peut en être déduite et de la manière dont cette information est utilisée.
À l’échelle d’entreprise, cette même capacité peut être intégrée dans les produits, les parcours clients et les processus métier. Il existe ici un énorme potentiel de valeur. Une meilleure compréhension peut améliorer le service client, identifier les besoins réels et soutenir de meilleures décisions. Ainsi, la réponse ne peut pas se résumer à un simple « ne pas l’utiliser ».
Le défi consiste à réfléchir soigneusement aux raisons pour lesquelles nous tirons cette conclusion, à déterminer notre degré de certitude quant à sa validité et à déterminer ce que nous permettons de se produire en conséquence. Pour les investissements plus importants, les organisations devraient également se demander si les clients s’attendent raisonnablement à ce que leurs données soient utilisées de cette manière et si cette capacité restera durable au fur et à mesure que la réglementation, les attentes des clients et le contexte opérationnel évoluent.
Une capacité peut fonctionner exactement comme prévue et pourtant devenir une mauvaise investissement si son utilisation devient plus tard difficile à justifier, à contrôler ou à adapter. C’est là que la confiance numérique prend son sens. L’IA devient remarquablement douée pour apprendre des choses que les gens n’ont jamais explicitement révélées. Qu’en apprend-elle sur quelqu’un sans qu’il n’en ait jamais parlé à personne et quoi faire avec cette connaissance ?
Visitez notre site web pour plus d'informations sur Les services d’IA de Resillion.
