5 choses à retenir de Kaspersky NeXT

Le sommet Kaspersky NeXT de cette année a permis de présenter les travaux de recherche de certains des meilleurs spécialistes européens en matière de cybersécurité et d’intelligence artificielle, et a donné lieu à certains débats. Qu’il s’agisse de l’apprentissage automatique, de l’IA ou encore de la sécurité de l’IoT, voici les 5 choses à retenir de l’événement de cette année, qui a eu lieu le 14 octobre à Lisbonne.

Se servir de l’IA pour vivre dans un monde plus juste

Vous êtes-vous déjà demandé combien de décisions ont été prises par une machine aujourd’hui ? Ou combien de décisions dépendent du sexe, des origines ou de l’éducation de la personne? Il est fort probable que vous ne sachiez pas du tout à quel point une machine décide à la place d’un être humain. Kriti Sharma, fondatrice de « AI for Good », a expliqué que des algorithmes sont continuellement utilisés pour décider qui nous sommes et ce que nous voulons.

Kriti a aussi souligné que pour améliorer l’intelligence artificielle nous devons impérativement rassembler les personnes de tout horizon, de tous les sexes et de toutes les origines. Vous pouvez visionner son discours pour Ted Talk ici et découvrir pourquoi la partialité de l’Homme influence la prise de décisions des machines.

Conséquences d’attribuer un sexe à l’IA

Pensez à Alexa, Siri et Cortana. Quel est leur point commun ? Tous ces services ont une voix féminine et ont été conçus pour obéir à vos ordres. Pourquoi ? La technologie renforce-t-elle les stéréotypes ? Il s’agit de deux débats qui cherchent à analyser l’égalité des sexes et l’IA. Les assistants numériques ont une voix féminine parce que, comme plusieurs études l’ont révélé, les utilisateurs se sentent plus à l’aise dans cette situation. Est-ce le reflet de notre société ?

Que pouvons-nous faire pour lutter contre l’inégalité des sexes dans l’IA ? Il faudrait peut-être utiliser une voix unisexe ou créer un nouveau genre pour les robots et l’IA. En plus du problème mentionné ci-dessus, il faut avoir plus d’équipes différentes qui travaillent sur l’IA pour refléter la diversité des utilisateurs qui s’en servent.

https://twitter.com/kaspersky/status/1183739717965230087

Nous faisons plus confiance aux robots qu’aux personnes

Un robot social est un système d’intelligence artificielle qui interagit avec l’Homme et d’autres robots et qui, contrairement à Siri ou Cortana, est présent physiquement. Tony Balpaeme, professeur de robotique à l’Université de Ghent, a expliqué que les problèmes liés aux échanges entre les robots et l’Homme seront de plus en plus importants puisque les robots seront de plus en plus utilisés.

Balpaeme a décrit certaines expériences scientifiques qu’il a réalisé avec son équipe. Par exemple, ils ont comparé la capacité de l’être humain à celle d’un robot quant à l’extraction de données sensibles (date de naissance, adresse ou ville natale, couleur préférée, etc.) pouvant être utilisées pour réinitialiser un mot de passe. Curieusement, nous faisons plus confiance aux robots qu’aux personnes, et c’est pourquoi les utilisateurs sont plus susceptibles de leur communiquer certaines données sensibles.

Il a également présenté un test sur l’intrusion physique. Un groupe de personnes qui devaient sécuriser un bâtiment ou un espace a facilement autorisé l’accès à un robot. Il n’y a aucune raison de penser que ce robot est inoffensif, mais ces personnes ont considéré qu’il ne représentait aucun danger. Cette tendance peut facilement être exploitée. Vous pouvez lire l’article publié sur Securelist pour obtenir plus de renseignements sur la robotique sociale et les essais menés.

https://twitter.com/kaspersky/status/1183683889514078209

L’IA va créer des deepfakes très convaincants

David Jacoby, membre de Kaspersky GReAT, a parlé de l’ingénierie sociale : chatbots, IA et menaces automatisées. Avec le temps, l’ingénierie sociale et d’autres méthodes de la vieille école pourraient être utilisés pour exploiter les applications de reconnaissance faciale et vocale .

Jacoby a aussi mentionné qu’il est de plus en plus difficile de détecter les deepfakes. L’impact qu’ils pourraient avoir sur les prochaines élections et la diffusion des informations est particulièrement préoccupant.

Pourtant le principal problème reste la confiance. En qui aurez-vous confiance une fois que la technologie aura été perfectionnée ? Selon lui, tout repose sur de meilleures connaissances : des formations et des nouvelles technologies pour aider les utilisateurs à détecter les fausses vidéos.

État de la sécurité en robotique

Dmitry Galov, un autre membre de Kaspersky GReAT, a pris la parole pour parler de ROS (Robot Operating System), un cadre flexible pour développer des logiciels pour la robotique. ROS, comme beaucoup d’autres systèmes, n’a pas pris en compte la sécurité lorsqu’il a été créé et, évidemment, il contient d’importants problèmes en matière de sécurité. Avant de penser aux produits qui pourraient reposer sur ROS, comme les robots sociaux et les voitures volantes qui pourraient s’envoler des bureaux de recherche universitaires pour atterrir dans les bras des utilisateurs, les créateurs doivent régler ces problèmes. En effet, une nouvelle version de ROS est en cours de développement. Le rapport de Galov vous permet d’en savoir plus.

Conseil supplémentaire : utilisez un condom USB

Marco Preuss et Dan Demeter, membres de Kaspersky GReAT, ont expliqué comment les utilisateurs se protègent des pirates informatiques lorsqu’ils sont en déplacement professionnel. Avez-vous déjà pensé qu’ils pourraient y avoir des caméras cachées, des bugs et des miroirs sans tain dans votre chambre d’hôtel ?

Pour les personnes légèrement paranoïaques, cet article, rédigé par Preuss et Demeter, vous donne quelques conseils pour voyager en toute sécurité. Les deux spécialistes ont également expliqué qu’il est primordial d’utiliser un condom USB (surtout si vous êtes vraiment parano). Oui, ces dispositifs existent vraiment et ils sont utilisés comme des clés USB normales : si vous devez charger votre téléphone en utilisant un port USB inconnu alors il vaut mieux utiliser ce petit gadget pour protéger votre appareil. Heureusement, ils sont réutilisables.

Consultez notre compte Twitter pour savoir tout ce qui s’est passé lors de cet événement.