Technologia wykrywania emocji powinna zostać zakazana, mówi teraz sztuczna inteligencja

Świat technologii domaga się nowego prawa ograniczającego zakres technologii wykrywania emocji. Ta technologia odczytuje emocje poprzez mikroekspresje i ton głosu. Wielkie firmy programistyczne wykorzystują tę technologię do tworzenia oprogramowania do wykrywania ludzkich emocji, ale jest pewien haczyk, na co zwróciło uwagę amerykańskie centrum badawcze AI Now.

Wyrażenia nie mogą być takie same, ciągle się zmieniają

Tam, gdzie ludzie są szczęśliwi widząc nowy trend w technologii w postaci wykrywania emocji, analitycy technologiczni i ośrodki badawcze w USA, AI Now wezwali do ograniczenia zakresu tej technologii. AI Now Institute twierdzi, że „Technologia wykrywania emocji jest zbudowana na wyraźnie chwiejnych podstawach”.

Zdaniem badaczy taka technologia nie powinna być wykorzystywana do podejmowania ważnych decyzji, które okazują się niekorzystne dla ludzi, ich życia i szans, jakie dzięki niej mogą zyskać lub stracić.

Ujawniając katastrofę technologii wykrywania emocji, AI Now w swoim rocznym raporcie mówi, że technologia wykrywania emocji twierdzi, że odczytuje mikro-ekspresje na naszej twarzy, sposób, w jaki mówimy i ton naszego głosu. Na podstawie tych obserwacji technologia interpretuje emocje osoby. Te wyrażenia mogą się ciągle zmieniać i nie są stabilne. Tak więc decyzje oparte na tym mogą być błędne.

Jak mówi prof. Kate Crawford, współzałożycielka AI Now: „Jest używany wszędzie, od tego, jak zatrudnić idealnego pracownika, przez ocenę bólu pacjenta, aż po śledzenie, którzy uczniowie wydają się zwracać uwagę w klasie. W tym samym czasie, gdy te technologie są wdrażane, duża liczba badań pokazuje, że… nie ma żadnych istotnych dowodów na to, że ludzie mają ten spójny związek między emocjami, które odczuwasz, a wyglądem twojej twarzy”.

Wyjaśniając tę ​​kwestię, prof. Crawford dodał, że niektóre firmy tworzące takie oprogramowanie opierają się na badaniach przeprowadzonych w 1960 roku przez Paula Ekmana, które mówią, że ludzka twarz może wyrażać tylko 6 podstawowych emocji. Ale później odkryto więcej odmian tych badań, które są całkowicie ignorowane w technologii wykrywania emocji.

Jaki jest kontekst?

AI Now podnosi również kurtynę z faktu, że wiele firm sprzedaje oprogramowanie oparte na tej technologii. Na przykład firma Oxygen Forensics sprzedała oprogramowanie korpusowi w celu lepszego zbadania podejrzanych. Korpusy uzyskują zdolność wykrywania złości, stresu lub niepokoju na ich twarzach. Innym przykładem może być HireVue, który sprzedał oprogramowanie firmie, która wykorzystuje je do tworzenia krótkiej listy kandydatów na rozmowę kwalifikacyjną.

Zanim zaczniesz liczyć na technologię wykrywania emocji, branża powinna zgromadzić więcej dowodów i faktów, że oprogramowanie wykrywa właściwe emocje, jest spójne i skuteczne we wszystkich sytuacjach. W przeciwnym razie wpływa niekorzystnie na ludzkie życie, podejmując błędne decyzje w oparciu o niejednoznaczną technologię. Docelowo, aby świat był lepszym miejscem do życia, takie technologie powinny być wykorzystywane odpowiedzialnie.

W tym celu badacze są tego samego zdania, że ​​należy zrozumieć kontekst, w jakim wykrywane są wyrażenia emocji. To samo wyrażenie może mieć różne znaczenie w różnych sytuacjach. Kontekst jest więc kluczem do podejmowania decyzji na podstawie wyrażeń wykrytych przez technologię wykrywania emocji.