Facebook per tancar i eliminar el seu sistema de reconeixement facial

Facebook finalitza el seu sistema de reconeixement facial aquest mes i té previst suprimir les exploracions facials dels més de 1.000 milions d’usuaris que va recollir durant l’última dècada, la companyia, atribuint el canvi a les creixents preocupacions de la societat. anunciat dimarts.

La decisió elimina una funció que creava plantilles de cares dels usuaris i les comparava amb altres fotos i vídeos publicats a la plataforma. Les dades recollides van permetre a Facebook notificar als usuaris quan apareixien a la foto o al vídeo d’una altra persona i van demanar als usuaris que “etiquetessin” amics i familiars que la intel·ligència artificial reconeixia en el contingut.

“Hi ha moltes preocupacions sobre el lloc de la tecnologia de reconeixement facial a la societat, i els reguladors encara estan en procés de proporcionar un conjunt clar de regles que regulen el seu ús”, Jerome Presenti, vicepresident d’intel·ligència artificial de Meta. La nova empresa matriu de Facebook, va dir en una entrada al blog. “Enmig d’aquesta incertesa contínua, creiem que és adequat limitar l’ús del reconeixement facial a un conjunt reduït de casos d’ús”.

Tot i que el nou canvi significa que la tecnologia de Meta ja no reconeixerà automàticament si la cara d’un usuari apareix en una foto o un vídeo publicat a la plataforma, Facebook seguirà utilitzant el sistema amb una capacitat limitada. Els usuaris podran accedir als comptes bloquejats o verificar la seva identificació per als productes financers.

“Aquests són llocs on el reconeixement facial és alhora valuós per a les persones i socialment acceptable, quan es desplega amb cura”, va dir Presenti. L’empresa traslladarà “formes més limitades d’autenticació personal” en el futur, va afegir.

Però hi ha “compromisos difícils”, va dir Presenti, i els canvis podrien afectar negativament la comunitat amb discapacitats visuals.

“La capacitat de dir-li a un usuari cec o amb discapacitat visual que la persona d’una foto del seu canal de notícies és el seu amic de secundària, o antic company, és una característica valuosa que fa que les nostres plataformes siguin més accessibles”, va dir Presenti, “però també depèn d’una tecnologia subjacent que intenta avaluar les cares d’una foto per fer-les coincidir amb les que es mantenen en una base de dades de persones que s’hi han subscrit”.

Automatic Alt Text, o AAT, és una tecnologia que Facebook utilitza per crear descripcions d’imatges per a usuaris amb discapacitat visual i cecs. La companyia va dir que actualment AAT identifica persones en aproximadament el 4% de les fotos. Tot i que AAT encara podrà reconèixer quantes persones hi ha a una foto, ja no utilitzarà el reconeixement facial per identificar cada usuari de la foto.

La tecnologia de reconeixement facial ha avançat en els darrers anys, però el seu ús creixent organismes d’aplicació de la llei ha alimentat les demandes de regulació d’experts en privadesa. Un informe d’agost de l’Oficina de Responsabilitat del Govern ho va trobar 18 de les 24 agències federals enquestades van informar que utilitzaven programari de reconeixement facial i almenys deu preveuen ampliar-ne l’ús el 2023.

El biaix racial en l’ús de la tecnologia de reconeixement facial és una altra preocupació perquè pot identificar malament les cares negres i marrons a taxes substancialment més elevades que els seus homòlegs blancs. Els experts en drets civils també han criticat l’ús de la tecnologia per part de la Xina rastrejar els musulmans uigures en nom de la prevenció del terrorisme.

Els experts en privadesa van elogiar l’anunci de Facebook com un pas en la direcció correcta.

Sharon Bradford Franklin, codirectora del projecte de seguretat i vigilància del Centre per a la Democràcia i la Tecnologia, va dir que el reconeixement facial és un àmbit on la tecnologia s’està desenvolupant més ràpidament que les normatives que la guien.

“Quan el Congrés és lent per actuar o no pot actuar, pot ser útil que els grans actors privats prenguin mesures per autoregular-se o imposar controls com a omplir el buit”, va dir Franklin. “És difícil de dir si això augmentarà l’impuls cap a la regulació”, va afegir.

L’any passat, Amazon, Microsoft i IBM tots van anunciar que no vendrien la seva tecnologia de reconeixement facial a les forces de l’ordre.

L’anunci de Facebook arriba quan la xarxa social s’ocupa d’un intens escrutini públic. El mes passat, una antiga empleada de Facebook, Frances Haugen, filtrat milers de documents interns demostrant que l’empresa coneixia els seus productes va ajudar a difondre informació errònia i contingut divisoriut.

Nathalie Maréchal, directora sènior de polítiques i associacions de Ranking Digital Rights, una organització que promou la privadesa a Internet, va qüestionar el moment de l’anunci de Facebook.

Va dir que la plataforma de xarxes socials “està intentant eludir les preguntes reals i extremadament importants sobre el seu historial de govern i transparència”. A principis d’any, Facebook va resoldre una demanda de privadesa de 650 milions de dòlars a Illinois per presumptament utilitzar les dades biomètriques dels usuaris sense el seu consentiment.

“Això no surt del no-res, de la bondat del cor de l’empresa”, va dir Maréchal. “Aquesta qüestió de reconeixement facial ha estat un veritable maldecap per a l’empresa durant molt de temps”, va afegir.

Maréchal va assenyalar que l’anunci de Facebook indicava que la companyia, que està reorientant els seus recursos per construir el Metaverse, un món digital perquè la gent pugui treballar i jugar, continuarà utilitzant algun tipus de programari de reconeixement facial en el futur.

“Podrien tornar a construir el mateix sistema molt ràpidament”, va dir Maréchal. “No hi ha res que els impedeixi tornar a encendre’l”.

Leave a Reply

Your email address will not be published. Required fields are marked *