EXPLOSIF - Quand les objets connectés se retournent contre vous !

Les personnes ayant contacté les lignes d'assistance et les refuges pour victimes de violences conjugales ont confié avoir eu l'impression de perdre la raison.

Une femme avait allumé son climatiseur, mais celui-ci s'est ensuite éteint sans qu'elle y touche. Une autre a déclaré que les codes de la serrure numérique de sa porte d'entrée changeaient tous les jours et qu'elle n'arrivait pas à comprendre pourquoi. Une autre femme a raconté à une ligne d'assistance téléphonique aux victimes de violence qu'elle entendait sans cesse la sonnette, mais qu'il n'y avait personne.

Ces témoignages illustrent une nouvelle forme de comportement dans les cas de violence conjugale, liée à l'essor de la domotique. Les serrures, haut-parleurs, thermostats, lumières et caméras connectés à Internet, présentés comme les dernières nouveautés en matière de confort, sont désormais également utilisés comme moyen de harcèlement, de surveillance, de vengeance et de contrôle.

Dans plus de 30 entretiens accordés au New York Times, des victimes de violence domestique, leurs avocats, des employés de centres d'hébergement et des secouristes ont décrit comment cette technologie devenait un nouvel outil alarmant. Les agresseurs, grâce à des applications sur leur smartphone reliées aux appareils connectés, contrôlaient à distance des objets du quotidien : tantôt pour observer et écouter, tantôt pour effrayer ou affirmer leur pouvoir. Même après le départ du partenaire du domicile, ces appareils restaient souvent en place et continuaient d'être utilisés pour intimider et semer la confusion.

Pour les victimes et les secouristes, ces expériences étaient souvent aggravées par un manque de connaissances sur le fonctionnement des technologies intelligentes, sur le pouvoir que l'autre personne pouvait exercer sur ces appareils, sur la manière de gérer légalement ce comportement et sur les moyens d'y mettre fin.

« Lors des formations, les gens ont commencé à lever la main et à demander quoi faire à ce sujet », a déclaré Erica Olsen, directrice du projet Safety Net au sein du Réseau national pour mettre fin à la violence domestique, à propos des sessions qu’elle anime sur la technologie et les violences. Elle a déclaré qu'elle hésitait à aborder la question du mauvais usage des technologies émergentes car « nous ne voulons pas faire connaître cette idée au monde entier, mais maintenant qu'elle est devenue si répandue, le mal est fait ».

Certaines des plus grandes entreprises du secteur technologique proposent des produits destinés à la maison connectée, comme Amazon avec son enceinte Echo ou le thermostat intelligent Nest d’Alphabet. Ces appareils sont généralement présentés comme des compagnons utiles au quotidien, notamment lorsque les utilisateurs sont au travail ou en vacances et souhaitent surveiller leur domicile à distance.

Certains fabricants d’objets connectés ont déclaré n’avoir reçu aucun signalement d’utilisation abusive de leurs produits. Ces appareils peuvent être désactivés via des boutons de réinitialisation et en modifiant le mot de passe Wi-Fi du domicile, mais leurs fabricants ont indiqué qu’il n’existait pas de solution universelle. Faciliter le changement de titulaire du compte d’un objet connecté peut, paradoxalement, faciliter l’accès aux systèmes pour les pirates informatiques .

Il semble qu’aucun groupe ni individu ne surveille l’utilisation des objets connectés à Internet dans les cas de violence conjugale, car cette technologie est relativement récente, bien qu’elle se répande rapidement. En 2017, 29 millions de foyers américains étaient équipés d’objets connectés, selon un rapport de McKinsey , qui estimait que ce nombre augmentait de 31% par an.

Les objets connectés dans la maison sont de plus en plus souvent impliqués dans les affaires de violence conjugale depuis un an, d’après les intervenants auprès des victimes. Les lignes d’écoute téléphonique indiquent avoir reçu davantage d’appels ces douze derniers mois concernant la perte de contrôle de portes, enceintes, thermostats, éclairages et caméras connectés en Wi-Fi. Les avocats, quant à eux, étudient la possibilité d’intégrer les technologies domotiques aux ordonnances de protection.

Muneerah Budhwani, qui reçoit les appels à la ligne d’écoute nationale contre les violences conjugales, a déclaré avoir commencé à entendre des témoignages concernant des maisons connectées dans des situations de violence l’hiver dernier. « Les personnes qui appellent ont indiqué que leurs agresseurs les surveillaient et les contrôlaient à distance grâce aux appareils et au système domotique », a-t-elle expliqué.

Graciela Rodriguez, qui dirige un refuge d’urgence de 30 lits au Centre pour la paix domestique à San Rafael, en Californie, a déclaré que certaines personnes étaient récemment venues raconter des histoires de « choses qui rendent fou », comme des thermostats qui montent soudainement à 100 degrés ou des haut-parleurs intelligents qui s’allument en diffusant de la musique à plein volume.

« Ils ont l’impression de perdre le contrôle de leur foyer », a-t-elle déclaré. « Après avoir passé quelques jours ici, ils réalisent qu’ils étaient maltraités. »

La domotique peut facilement être détournée pour plusieurs raisons. Des outils comme les caméras de sécurité connectées sont relativement peu coûteux (certaines coûtent 40 dollars) et faciles à installer. Généralement, dans un couple, une personne se charge de l’installation, en connaît le fonctionnement et possède tous les mots de passe. Cela lui donne le pouvoir de retourner la technologie contre l’autre.

Les services d’urgence ont indiqué que de nombreuses victimes de violences perpétrées grâce aux domotiques étaient des femmes.

Les appareils domotiques connectés sont majoritairement installés par des hommes, selon Melissa Gregg, directrice de recherche chez Intel, qui travaille sur les implications de la domotique. De nombreuses femmes n’ont pas non plus toutes les applications nécessaires sur leur téléphone, explique Jenny Kennedy, chercheuse postdoctorale à l’université RMIT de Melbourne, en Australie, qui étudie les familles utilisant la domotique.

Selon un rapport de 2010 des Centres de contrôle et de prévention des maladies, 1 femme sur 3 et 1 homme sur 4 ont été victimes de violence physique ou de harcèlement de la part d’un partenaire intime.

Les personnes qui ont témoigné auprès du Times concernant le harcèlement dont elles étaient victimes via des objets connectés étaient toutes des femmes, dont beaucoup vivaient dans des quartiers aisés où ce type de technologie s’est largement répandu. Elles ont souhaité conserver l’anonymat, invoquant des raisons de sécurité et parce que certaines étaient en train de quitter leur agresseur. Leurs récits ont été corroborés par des travailleurs sociaux spécialisés dans les violences conjugales et des avocats qui ont pris en charge leurs dossiers.

Chacune a décrit l’utilisation d’appareils connectés à Internet par leurs agresseurs comme une intrusion dans leur vie privée ; l’une d’elles l’a comparée à une « guerre de jungle », car il était difficile de savoir d’où provenaient les attaques. Elles ont également évoqué un déséquilibre de pouvoir, leurs partenaires contrôlant la technologie et, par conséquent, leur propre personne.

L’une des femmes, médecin dans la Silicon Valley, a déclaré que son mari, ingénieur, « contrôle le thermostat, les lumières et la musique ». Elle a ajouté : « Les relations abusives sont une question de pouvoir et de contrôle, et il utilise la technologie. »

Elle a déclaré ne pas comprendre le fonctionnement de toute cette technologie ni comment retirer son mari des comptes. Mais elle a ajouté qu’elle rêvait de reprendre bientôt le contrôle de ces technologies.

« J’ai un plan de sortie précis que je suis en train de mettre en œuvre, et l’un de mes rêves est de pouvoir dire : “OK Google, mets la musique que je veux” », a-t-elle déclaré. Son projet concernant le thermostat intelligent, a-t-elle expliqué, est de « le débrancher ».

Selon les experts, la désinstallation de ces dispositifs par la victime peut aggraver le conflit. « L’agresseur peut constater que le dispositif est désactivé, ce qui peut déclencher une recrudescence des violences », explique Jennifer Becker, avocate chez Legal Momentum, une association de défense des droits des femmes.

Eva Galperin, directrice de la cybersécurité à l’Electronic Frontier Foundation, une organisation de défense des droits numériques, a déclaré que la désactivation des appareils pouvait également isoler davantage la victime. « Elles ne savent pas comment leur agresseur accède à leur compte et ne sont pas forcément capables de le découvrir car elles ne comprennent pas le fonctionnement des systèmes », a expliqué Mme Galperin. « Leur premier réflexe est de tout éteindre, ce qui ne fait que les isoler encore plus. »

Les recours légaux peuvent être limités. Les agresseurs ont appris à utiliser la domotique pour étendre leur emprise et leur contrôle, souvent en dehors du cadre légal, a expliqué Mme Becker. Dans certains cas, a-t-elle précisé, la diffusion par un agresseur d’une vidéo filmée par une caméra de sécurité connectée pourrait constituer une infraction aux lois de certains États contre la diffusion non consensuelle d’images intimes, qui visent à empêcher un ancien partenaire de partager des photos et vidéos intimes en ligne.

Des associations sensibilisent les services d’urgence au fait que, lors de l’obtention d’une ordonnance de protection, il est nécessaire de demander au juge d’inclure tous les comptes d’appareils connectés, connus ou inconnus des victimes. « Beaucoup de gens ignorent encore qu’il faut poser cette question », a déclaré Mme Becker. « Mais même en cas d’ordonnance de protection, modifier à distance la température d’un logement ou allumer soudainement la télévision ou les lumières ne constitue pas nécessairement une violation de l’ordonnance d’éloignement », a-t-elle ajouté.

Plusieurs responsables des forces de l’ordre ont déclaré que cette technologie était trop récente pour avoir été utilisée dans leurs affaires, même s’ils soupçonnaient que cette activité avait lieu.

« J’en suis certain », a déclaré Zach Perron, capitaine de police à Palo Alto, en Californie. « C’est tout à fait logique, compte tenu de ce que je sais de la psychologie des suspects de violence conjugale. La violence conjugale est en grande partie une question de contrôle ; on pense souvent à la violence physique, mais il existe aussi une violence psychologique. »

Selon Ruth Patrick, directrice de WomenSV, un programme de lutte contre les violences conjugales dans la Silicon Valley, certaines personnes ne considèrent pas l’utilisation d’objets connectés comme problématique. Elle explique avoir eu des clientes placées en observation psychiatrique – un séjour dans un établissement médical pour une évaluation de leur santé mentale – après des violences commises à l’aide d’objets connectés.

« Si vous confiez à la mauvaise personne que votre mari connaît tous vos faits et gestes et qu’il sait ce que vous avez dit dans votre chambre, vous risquez de passer pour folle », a-t-elle déclaré. « Il est tellement plus facile de croire que quelqu’un est fou que de croire que toutes ces choses se produisent réellement. »

Selon les chercheurs, il est essentiel que tous les membres d’un foyer comprennent la technologie de la maison intelligente.

« Quand de nouvelles technologies apparaissent, les gens pensent souvent : “Waouh, ma vie va être beaucoup plus sûre” », a déclaré Katie Ray-Jones, directrice générale de la National Domestic Violence Hotline. Mais « nous constatons souvent le contraire chez les victimes de violence conjugale. »

• L’intelligence artificielle (IA) se retournera-t-elle contre nous ?

L’intelligence artificielle est déjà partout. Des suggestions de produits Amazon à la saisie semi-automatique de Google, l’IA a envahi presque tous les aspects de nos vies. Le problème est que l’IA n’est tout simplement pas très bonne. Avez-vous déjà eu une conversation significative avec Siri, Alexa ou Cortana ? Bien sûr que non. Mais cela ne veut pas dire que ce sera toujours ainsi. Même si elle n'a pas tout à fait répondu à nos attentes, l'IA s'améliore définitivement. Dans une version utopique d’un avenir dominé par l’IA, les humains sont assistés par des majordomes amicaux et omniscients qui répondent à tous nos besoins. Dans la version dystopique, les robots affirment leur indépendance et déclarent une apocalypse de style Terminator sur l'humanité. Mais dans quelle mesure ces scénarios sont-ils réalistes ? L’IA parviendra-t-elle un jour à atteindre une véritable intelligence générale ? L’IA va-t-elle voler tous nos emplois ? L’IA peut-elle un jour devenir consciente ? L’IA pourrait-elle avoir le libre arbitre ? Personne ne le sait, mais un bon point de départ pour réfléchir à ces questions

Nous le savons tous : l’IA n’est plus seulement une technologie du futur. Nous pouvons créer un compte à n'importe quel endroit en ligne et demander à un ami virtuel tout ce que nous voulons.

Quel est l'inconvénient ? Il s’avère que c’est beaucoup.

Il existe de nombreuses façons différentes pour les entreprises d’utiliser l’IA pour nous causer directement ou indirectement du tort. Cela ne signifie pas que nous devons arrêter d’utiliser la technologie, mais nous devons garder les yeux et les oreilles ouverts pour savoir ce qui se passe. Et pour l'identifier, il faut savoir ce que c'est alors commençons par là.

Qu’est-ce que l’IA invasive ?

L’IA invasive se produit lorsque l’IA est utilisée pour nuire, contrôler, manipuler ou déformer de toute autre manière nos perceptions, directement ou indirectement. Parfois, cela est fait de manière malveillante, comme lorsqu'une entreprise utilise intentionnellement l'IA pour créer et automatiser les cyberattaques avec un niveau d’efficacité qu’un humain ne pourrait jamais atteindre. D'autres fois, c'est plus insidieux, et ce sont des moyens de manipuler vos techniques d'achat par le biais du marketing.

Quelle que soit la manière dont vous le présentez, vous ne voulez probablement pas que l'IA déforme vos opinions d'une manière ou d'une autre, et vous ne voulez certainement pas qu'elle fasse des choses malveillantes sur ou avec vos ordinateurs et/ou vos données. Et dans la ruée vers le marché vers laquelle tout le monde se dirige, il semble que nous ne nous penchions pas vraiment sur les préoccupations éthiques liées au produit.

N’est-ce pas ce que 50 ans de romans et de films de science-fiction étaient censés nous apprendre ?

Créons un contre-récit

Je travaille sur l’IA depuis des années maintenant, et les préoccupations éthiques sont au premier plan de nos efforts. En fait, nous considérons l’IA comme un outil collaboratif qui n’est pas utilisé pour nuire mais qui nous aide.

Nous pouvons être plus efficaces, apprendre davantage et peut-être même accroître notre créativité. Tout le monde parle de personnes qui soutiennent la technologie en ce moment, mais nous pensons que nous devrions inverser la tendance : la technologie peut soutenir les gens. Il suffit de mettre en place les bons garde-fous pour y parvenir.

Une façon d’y parvenir est de recourir à la confidentialité. Nous pouvons partager des données sans nous identifier, ce qui nous permet d’apprendre et de résoudre les problèmes plus rapidement.

Par exemple, si nous pouvions placer toutes les données de la chaîne d’approvisionnement mondiale dans une base de données anonyme alimentée par l’IA, imaginez les informations que nous pourrions en extraire. Les itinéraires deviendraient plus efficaces —et nous économiserions plus d'argent sur le carburant et les fournitures, éviterions tarifs qui affectent la chaîne d'approvisionnement, et mieux communiquer.

Cela semble être 50-50, n’est-ce pas ?

La solution

Alors… Comment résoudre ce problème ?

Je pense que la première étape est que les gens se rassemblent. Levez-vous comme l’ont fait les ancêtres américains il y a quelques centaines d’années. Les gens derrière la campagne d'IA semblent avancer sans se soucier de ce qui se trouve sur leur chemin, et je pense que nous devrions nous assurer qu'ils savent ce que nous pensons.

Dites-leur que nous ne défendrons pas l’IA si elle n’est pas utilisée de manière éthique et responsable. C'est important pour notre avenir à tous, après tout.

Deuxièmement, nous devons établir un canal de communication sécurisé pour ceux qui veulent résister lorsque l’IA est utilisée contre nous. Ce canal devrait également être le point de départ de notre révolution des écosystèmes d’IA. Ce canal devrait être l’endroit où nous pouvons organiser les groupes de dénonciation, de collaboration et de plaidoyer dont nous avons besoin.

Ensuite, nous pouvons commencer à parler des correctifs, comme la manière dont nous pouvons permettre aux entreprises de créer des ensembles de données partagées autorisés, où elles peuvent exploiter les données de manière collaborative sans compromettre leur confidentialité ou leur sécurité. Des outils comme celui-là nous permettent de bénéficier des avantages de l’IA sans intention malveillante. C'est une bien meilleure solution.

Mais ce que nous ne pouvons pas faire, c'est rien. Nous ne pouvons pas rester les bras croisés pendant que les entreprises d’IA nous marchent dessus sans tenir compte de notre vie privée, de nos besoins ou de nos préoccupations. Nous devons nous défendre et veiller à ce qu’ils entendent nos voix.

Article traduit sur CNBC et Forbes