Kiedy w ubiegłym roku akademickim opowiadałam moim studentom i studentkom o Sentimenti, jeden z nich zapytał: “A jakie jest możliwe najbardziej nieetyczne zastosowanie Sentimenti?“. Pytanie to zaskoczyło mnie, ale też skłoniło do myślenia.
Cyberprzemoc i emocje. A co z mową nienawiści?
Zmartwienie studenta jest całkiem zrozumiałe – technologie automatycznej analizy danych zawsze mogą zostać wykorzystane do niecnych celów. Dlatego zastosowanie wielkich zbiorów danych (“big data“) przedostało się do opinii publicznej dzięki skandalowi związanemu z firmą Cambridge Analytica i innymi przykładami wątpliwych moralnie działań na danych użytkowników.
W tym artykule chciałabym zaproponować myślenie odwrotne: do jakich pozytywnych działań może zostać wykorzystane Sentimenti? W jaki sposób możemy uczynić świat lepszym dzięki automatycznej analizie emocji? Do tej pory mówiliśmy o Sentimenti w kontekście czterech głównych zastosowań:
- Analiza i sugestie w zakresie emotywnego pozycjonowania reklam
- Monitoring, analiza i kategoryzacja wpisów klientów w mediach społecznościowych i na forach
- Monitoring wybranych przez zleceniodawcę aspektów jego działania (marki, kluczowych klientów, odbioru jakości działania zleceniodawcy)
- Sentistock jako wsparcie w procesach inwestycyjnych, zarządczych w przedsiębiorstwach (w korelacji do kursów giełdowych lub do uzyskiwanych parametrów ekonomicznych)
Możliwe jest jednak wiele innych aplikacji Sentimenti, a niektóre z nich mogą uczynić życie ludzi znacznie lepszym. Pisaliśmy już na blogu o tym, jak rozpoznawanie emocji w Sentimenti pomaga wykrywać mowę nienawiści.
Analiza emocji pomaga wykrywać niebezpieczne zjawiska
Nasze badania wpisują się w światowe trendy stosowania rozpoznawania emocji w tekście do wykrywania niebezpiecznych zjawisk w internecie. Podczas ostatniej konferencji “ACL Symposium On Applied Computing” grupa badaczy zaprezentowała w artykule “Overwhelmed by Negative Emotions? Maybe You Are Being Cyber-bullied!” ciekawe wyniki analizy tekstu pokazujące, jak automatyczne wykrywanie emocji może pomóc w rozpoznawaniu cyberprzemocy.
Cyberprzemoc (cyberbullying) autorzy definiują jako agresywny i celowy atak na ofiarę, która nie ma środków obrony. Dlatego atak ten powtarza się w czasie a agresorzy wykorzystują do niego cyfrowe formy kontaktu.
Autorzy przygotowali zbiór tysiąca komentarzy z Instagrama, które ręcznie oznaczyli wartościami emocji, sentymentu oraz występowania cyberprzemocy. To pozwoliło im to zaobserwować, że złość i negatywny sentyment silnie korelują z cyberprzemocą, dlatego badacze zbudowali automatyczny klasyfikator wyłapujący z wiadomości te, które prawdopodobnie są cyberprzemocą.
Złość pojawia się znacząco częściej w postach zawierających cyberprzemoc (Tabela przedrukowana z cytowanego artykułu).
Wyniki badaczy są bardzo wstępne, a trafność klasyfikatora nie jest jeszcze wysoka. Badanie to pokazuje jednak bardzo obiecujący kierunek, dlatego też analiza emocji może uchronić wiele osób przed staniem się ofiarami cyberprzemocy.
Cytowane badanie:
Pinar Arslan, Michele Corazza, Elena Cabrio, Serena Villata. Overwhelmed by Negative Emotions? Maybe You Are Being Cyber-bullied! SAC 2019 – The 34th ACM/SIGAPP Symposium On Applied Computing, Apr 2019, Limassol, Cyprus.
Autorką posta jest Barbara Konat, kierowniczka badawcza Sentimenti.