Google sta utilizzando un nuovo modo per misurare il colore della pelle per rendere i risultati di ricerca più completi

Google sta lavorando con un professore di Harvard per sviluppare una nuova scala per misurare il tono della pelle nella speranza di affrontare i pregiudizi e la diversità nei prodotti dell’azienda.

Il gigante della tecnologia lavora con l’assistente di sociologia di Harvard Ellis Monk e il creatore della Monk Skin Tone Scale o MST. La scala MST è progettata per sostituire le scale di colore della pelle obsolete che prendono di mira la pelle più chiara. Quando queste vecchie scale vengono utilizzate dalle aziende tecnologiche per classificare il colore della pelle, può portare a prodotti che funzionano peggio per le persone più scure, afferma Monk.

“Anche se non disponiamo di una misurazione adeguata delle differenze di colore della pelle, non possiamo davvero integrarla nei prodotti per assicurarci che siano più completi”, afferma Monk. Il confine:. La scala del tono della pelle del monaco è una scala del colore della pelle a 10 punti che è stata deliberatamente progettata per essere più rappresentativa, inclusa una gamma più ampia di tonalità della pelle diverse, specialmente per gli esseri umani. [with] tonalità della pelle più scure.”

Esistono molti esempi di prodotti tecnologici, in particolare quelli che utilizzano l’intelligenza artificiale, che funzionano peggio per le carnagioni più scure. Questi includono applicazioni progettate per rilevare il cancro della pelle, software di riconoscimento facciale e persino sistemi di visione artificiale utilizzati dalle auto a guida autonoma.

Sebbene ci siano molti modi in cui questo tipo di distorsione è programmato in questi sistemi, un fattore comune è l’uso di scale di colore della pelle obsolete durante la raccolta dei dati di allenamento. La scala del tono della pelle più popolare è la scala Fitzpatrick, ampiamente utilizzata sia nel mondo accademico che nell’IA. Questa scala è stata originariamente progettata negli anni ’70 per classificare il modo in cui le persone con la pelle più chiara bruciano o si arrabbiano sotto il sole, ma solo in seguito è stata ampliata per includere la pelle più scura.

Ciò ha portato ad alcune critiche sul fatto che la scala Fitzpatrick non riesce a catturare l’intera gamma di tonalità della pelle, il che potrebbe significare che quando il software di visione artificiale viene addestrato sui dati Fitzpatrick, è anche sbilanciato verso tipi di pelle più chiari.

Scala del tono della pelle del monaco a 10 punti.
Immagine di Alice Monk / Google

La scala Fitzpatrick è composta da sei categorie, ma la scala MST la estende fino a 10 diverse tonalità della pelle. Monk afferma che questo numero è stato scelto in base alla propria ricerca per bilanciare diversità e facilità d’uso. Alcune scale del tono della pelle offrono più di cento categorie diverse, dice, ma un’eccessiva selezione può portare a risultati inadeguati.

“Di solito, se ottieni 10 o 12 punti su questo tipo di scale [and] “Chiedi alla stessa persona di scegliere le stesse sfumature più e più volte. Più ampia è la scala, meno persone possono farlo.” “A livello cognitivo, diventa davvero difficile distinguere in modo accurato e affidabile.” La scelta di 10 tonalità di pelle è molto più gestibile, dice.

La creazione di una nuova scala del tono della pelle, tuttavia, è solo il primo passo; la vera sfida è integrare questo lavoro nelle applicazioni del mondo reale. Per promuovere la scala MST, Google ha creato un nuovo sito web, skintone.google, dedicato a spiegare le migliori pratiche della ricerca sull’IA:. L’azienda afferma che sta anche lavorando per utilizzare la scala MST per alcuni dei suoi prodotti. Questi includono i suoi filtri fotografici “Real Holiday” progettati per funzionare meglio con tonalità della pelle più scure, և risultati di ricerca di immagini.

Google consentirà agli utenti di perfezionare determinati risultati di ricerca utilizzando le tonalità della pelle selezionate dalla scala MST.
Immagine di Google

Google afferma che sta introducendo una nuova funzione di ricerca di immagini che consentirà agli utenti di perfezionare la ricerca in base al colore della pelle classificato dalla scala MST. Quindi, ad esempio, se stai cercando “trucco occhi” o “trucco sposa”, puoi filtrare i risultati in base al colore della pelle. In futuro, la società prevede anche di utilizzare la scala MST per testare la diversità dei risultati, in modo che se cerchi immagini di “piccoli carini” o “dottori”, non ti verranno mostrate solo facce bianche.

“Una cosa che facciamo è prendere un numero [image] I risultati, capendo quando quei risultati sono particolarmente omogenei in più sfumature, և migliorano la diversità dei risultati”, ha affermato Tulsi Doshin, chief artificial intelligence officer di Google. Il confine:. Doshi ha sottolineato, tuttavia, che questi aggiornamenti sono in una fase di sviluppo “molto precoce” e non sono stati ancora diffusi nei servizi dell’azienda.

Questo dovrebbe fare attenzione non solo a questo particolare cambiamento, ma anche all’approccio di Google per risolvere i problemi di bias nei suoi prodotti più in generale. L’azienda ha una storia a mosaico quando si tratta di questi problemi: և L’industria dell’IA nel suo insieme tende a promettere linee guida etiche և linee guida difensive e quindi ‘fallire le conseguenze.

Prendi, ad esempio, il famigerato bug di Google che ha portato il suo motore di ricerca a etichettare le foto di persone di colore come “gorilla” o “scimpanzé”. Questo errore è stato segnalato per la prima volta nel 2015, ma Google lo ha confermato Il confine: questa settimana che non ha ancora risolto il problema, ma ha semplicemente rimosso questi termini di ricerca. “Sebbene abbiamo notevolmente migliorato i nostri modelli in base al feedback, non sono ancora perfetti”, ha affermato Michael Marconi di Google Foto. Il confine:. “I termini di ricerca rimangono disabilitati per evitare che questi tipi di errori possano potenzialmente causare ulteriori danni.”

L’introduzione di questo tipo di cambiamento può anche porre sfide culturali e politiche, riflettendo le sfide più ampie di come integriamo questi tipi di tecnologie nella società. Quando si filtrano i risultati della ricerca di immagini, ad esempio, Doshi osserva che la “diversità” può avere un aspetto diverso nei diversi paesi. :

“Cosa significa diversità, ad esempio, quando scopriamo risultati in India?” [or] “Quando scopriremo i risultati in diverse parti del mondo, sarà significativamente diverso”. “È difficile dire ‘Oh, questo è l’esatto insieme di buoni risultati che vogliamo’, perché sarà diverso per ogni utente, regione, query”.

L’introduzione di una nuova scala più completa per misurare il tono della pelle è un passo avanti, ma permangono problemi molto più seri con il pregiudizio dell’intelligenza artificiale.


Imparentato:

Leave a Comment

Your email address will not be published.