Le chien de garde britannique des données met en garde contre la discrimination dans les neurotechnologies

Jan 26, 2024

Tout d'abord, les gens s'inquiétaient du biais algorithmique. Maintenant, ils craignent que le biais de l'IA ne prolonge ce danger. Mais bientôt, la grande préoccupation pourrait être les préjugés dans la neurotechnologie – un domaine en plein essor qui comprend Neuralink d'Elon Musk et le rival soutenu par Jeff Bezos et Bill Gates, le fabricant d'implants cérébraux Synchron.

Le régulateur britannique de la protection des données, l'Information Commissioner's Office (ICO), a déclaré aujourd'hui qu'il s'attendait à ce que les appareils qui exploitent les signaux provenant du système nerveux "se généralisent au cours de la prochaine décennie". Alors que les chercheurs utilisent déjà des implants cérébraux pour lutter contre la démence et aider les personnes paralysées à remarcher, le chien de garde a déclaré que "les neurotechnologies se développent rapidement pour être utilisées dans les secteurs du bien-être personnel, du sport et du marketing et même pour surveiller les personnes sur le lieu de travail".

L'ICO craint que des biais dangereux ne se glissent dans les modèles en cours de développement pour lire et interpréter les neurodonnées, si les appareils ne sont pas évalués sur les personnes neurodivergentes en particulier. Par exemple, les systèmes de neurotechnologie pourraient avoir l'hypothèse intégrée que certains schémas sont "indésirables… [donc] ceux qui présentent ces schémas peuvent alors être ignorés pour des promotions ou des opportunités d'emploi".

"La neurotechnologie collecte des informations personnelles intimes dont les gens ne sont souvent pas conscients, y compris les émotions et les comportements complexes. Les conséquences pourraient être désastreuses si ces technologies sont développées ou déployées de manière inappropriée", a déclaré le responsable des risques réglementaires de l'agence, Stephen Almond.

Synchron mène déjà des essais sur l'homme de son implant cérébral - il a déclaré plus tôt cette année que l'implant "semblait sûr et permettait aux patients d'envoyer des SMS, des e-mails, des opérations bancaires et des achats en ligne en mode mains libres, et de communiquer leurs besoins en matière de soins en utilisant leurs pensées". Neuralink, qui prétend que son interface cérébrale va "restaurer l'autonomie de ceux qui ont des besoins médicaux non satisfaits aujourd'hui et libérer le potentiel humain demain", a finalement obtenu l'approbation de la FDA pour les tests sur l'homme il y a quelques semaines.

Meta a également touché à l'espace de l'interface cérébrale pendant plusieurs années sous son ancienne apparence Facebook, mais s'est retiré en 2021, au motif que le matériel monté sur la tête grand public était encore loin. Il a plutôt décidé de se concentrer sur le développement d'un appareil porté au poignet qui pourrait détecter les signaux nerveux moteurs électriques, le genre de chose qui pourrait s'avérer utile pour interagir avec le métaverse.

L'ICO estime que ces appareils portables seront ceux qui gagneront une véritable traction sur le marché dans plusieurs années, étant intégrés dans les trackers de fitness, déployés sur le lieu de travail et utilisés pour jouer à des jeux VR/AR.

Cependant, si vous avez vu ce tweet fascinant du neurotechnologue Sterling Crispin, qui a travaillé sur le casque Vision Pro d'Apple et l'a décrit comme "une interface informatique cérébrale brute via les yeux"… non, l'ICO ne s'en préoccupe pas. "Nous parlons de la collecte de données directement à partir du cerveau et du système nerveux des gens", m'a dit un porte-parole.

L'ICO a déclaré qu'elle publiera des directives spécifiques sur les neurodonnées d'ici 2025. En attendant, elle a publié un rapport sur le sujet, que vous pouvez lire ici.

Plus de nouvelles ci-dessous.

Vous souhaitez envoyer des réflexions ou des suggestions à Data Sheet ? Déposez une ligne ici.

David Meyer

La section des nouvelles quotidiennes de Data Sheet a été rédigée et organisée par Andrea Guzman.

Google et Salesforce font équipe. Après une collaboration analytique et big data en 2017, les géants de la technologie Salesforce et Google ont décidé de s'associer à nouveau. Ce dernier projet permettra aux entreprises d'utiliser leurs données avec des modèles d'apprentissage automatique personnalisés pour anticiper les besoins de leurs clients. Il s'agira d'intégrer Data Cloud de Salesforce avec BigQuery de Google et la plate-forme Vertex AI afin que les utilisateurs puissent apporter tous les modèles d'IA qu'ils ont formés dans Vertex sur la plate-forme de Salesforce. L'accord fait suite aux annonces de Salesforce cette année sur de nouveaux outils d'IA comme son assistant pour la gestion de la relation client connu sous le nom d'Einstein GPT, et alors que Google traîne derrière Amazon et Microsoft sur le marché américain des infrastructures cloud, rapporte TechCrunch.

Twitch revient sur les modifications apportées aux annonces. Les modifications apportées par Twitch à sa politique de contenu de marque et sponsorisé devaient entrer en vigueur le 1er juillet, interdisant les publicités vidéo, audio ou display "incrustées". Mais après que des streamers comme MrBeast aient partagé leur frustration face au coup que cela apporterait à leurs revenus et aient envisagé de boycotter la plate-forme, Twitch a décidé d'abandonner les changements. Dans un tweet, la plate-forme appartenant à Amazon s'est adressée aux streamers, affirmant que cela n'empêcherait pas leur capacité d'avoir des relations directes avec les sponsors. "Vous continuerez à posséder et à contrôler votre entreprise de parrainage", a écrit Twitch.

La publicité DeSantis utilise une fausse image AI de Trump. Plus tôt cette semaine, le compte Twitter "DeSantis War Room" a partagé une vidéo qui comprend trois photos générées par l'IA de l'ancien président Trump embrassant l'ancien conseiller médical en chef de la Maison Blanche Anthony Fauci. Des experts en criminalistique des médias numériques ont déclaré à l'AFP que les images étaient très probablement fausses et introuvables lors des recherches d'images inversées. Certains experts se sont inquiétés de l'impact que l'IA avancée pourrait avoir sur les élections de 2024, tandis que d'autres notent que la désinformation créée par l'homme s'est propagée lors des récentes élections, de sorte que cela ne fera peut-être pas beaucoup de différence.

—Classement de l'application de qualité de l'air de l'EPA sur l'App Store d'Apple, devant Facebook, Twitter et Snapchat. Comme la qualité de l'air de New York souffre de la fumée qui a voyagé des incendies de forêt canadiens, le métro est en tête de liste pour la pire qualité de l'air au monde.

Même le PDG d'OpenAI, Sam Altman, pense que les gens deviennent un peu trop fous à propos de l'IA : "C'est extrêmement surmédiatisé à court terme", par Prarthana Prakash

«Le père de l'iPod» dit qu'Apple a «vraiment sauté sur le requin» avec son casque de réalité virtuelle à 3 500 $, par Chloe Taylor

Deux des frères crypto les plus riches ont vu près de 2 milliards de dollars anéantis leur richesse combinée suite à la répression de Binance et Coinbase, par Christiaan Hetzner

Google accélère le retour au travail en utilisant la présence en personne dans le cadre des évaluations des performances des employés, par Prarthana Prakash

Le créateur de "Black Mirror", Charlie Brooker, dit qu'il a essayé de convaincre ChatGPT d'écrire un épisode de son émission à succès, mais c'était "merde", par Chloe Taylor

Des ingénieurs tentent de transmettre l'énergie solaire de l'espace à la Terre. En janvier, une équipe de Caltech a lancé une série de tests en orbite sur des composants pour l'énergie solaire spatiale, et elle renvoie maintenant des résultats encourageants. D'autres font aussi une tentative. Les laboratoires militaires américains pensent qu'ils pourraient un jour transmettre de l'énergie spatiale à des bases ou à des zones de combat. Pendant ce temps, l'Agence spatiale européenne a un plan pour un réseau spatial-solaire et l'Académie chinoise des technologies spatiales vise un prototype de satellite à faisceau de puissance d'ici 2028.

Le Wall Street Journal rapporte qu'un grand défi consiste à identifier un moyen sûr et fiable de transmettre des gigawatts d'électricité au sol, puis de les convertir en électricité que les gens peuvent utiliser. Une méthode pourrait être les faisceaux de micro-ondes, mais la Commission européenne a découvert que les faisceaux ne seraient pas assez puissants. Pourtant, c'est l'une des méthodes les plus appréciées en ce moment. "C'est fondamentalement la même technologie que la recharge sans fil pour votre téléphone portable", a déclaré Chris Rodenbeck, chef du groupe Advanced Concepts au US Naval Research Laboratory à Washington, DC, au journal.

Il s'agit de la version Web de Data Sheet, une newsletter quotidienne sur le business de la tech. Inscrivez-vous pour le recevoir gratuitement dans votre boîte de réception.