Cyberprzemoc i negatywne emocje

Kiedy w ubiegłym roku akademickim opowiadałam moim studentom i studentkom o Sentimenti, jeden z nich zapytał: „A jakie jest możliwe najbardziej nieetyczne zastosowanie Sentimenti?”. Pytanie to zaskoczyło mnie, ale też skłoniło do myślenia.

Zmartwienie studenta jest całkiem zrozumiałe – technologie automatycznej analizy danych zawsze mogą zostać wykorzystane do niecnych celów. Zastosowanie wielkich zbiorów danych („big data”) przedostało się do opinii publicznej dzięki skandalowi związanemu z firmą Cambridge Analytica i innymi przykładami wątpliwych moralnie działań na danych użytkowników.

W tym artykule chciałabym zaproponować myślenie odwrotne: do jakich pozytywnych działań może zostać wykorzystane Sentimenti? W jaki sposób możemy uczynić świat lepszym dzięki automatycznej analizie emocji? Do tej pory mówiliśmy o Sentimenti w kontekście czterech głównych zastosowań:

    1. Analiza i sugestie w zakresie emotywnego pozycjonowania reklam
    2. Monitoring, analiza i kategoryzacja wpisów klientów w mediach społecznościowych i na forach
    3. Monitoring wybranych przez zleceniodawcę aspektów jego działania (marki, kluczowych klientów, odbioru jakości działania zleceniodawcy)
    4. Sentistock jako wsparcie w procesach inwestycyjnych, zarządczych w przedsiębiorstwach (w korelacji do kursów giełdowych lub do uzyskiwanych parametrów ekonomicznych)

Możliwe jest jednak wiele innych aplikacji Sentimenti, a niektóre z nich mogą uczynić życie ludzi znacznie lepszym. Pisaliśmy już na blogu o tym, jak rozpoznawanie emocji w Sentimenti pomaga wykrywać mowę nienawiści.

Nasze badania wpisują się w światowe trendy stosowania rozpoznawania emocji w tekście do wykrywania niebezpiecznych zjawisk w internecie. Podczas ostatniej konferencji “ACL Symposium On Applied Computing” grupa badaczy zaprezentowała w artykule “Overwhelmed by Negative Emotions? Maybe You Are Being Cyber-bullied!” ciekawe wyniki analizy tekstu pokazujące, jak automatyczne wykrywanie emocji może pomóc w rozpoznawaniu cyberprzemocy.

Cyberprzemoc (cyberbullying) autorzy definiują jako agresywny i celowy atak na ofiarę, która nie ma środków obrony. Atak ten powtarza się w czasie a agresorzy wykorzystują do niego cyfrowe formy kontaktu.

Autorzy przygotowali zbiór tysiąca komentarzy z Instagrama, które ręcznie oznaczyli wartościami emocji, sentymentu oraz występowania cyberprzemocy. Pozwoliło im to zaobserwować, że złość i negatywny sentyment silnie korelują z cyberprzemocą. Dzięki temu badacze zbudowali automatyczny klasyfikator wyłapujący z wiadomości te, które prawdopodobnie są cyberprzemocą.

Złość pojawia się znacząco częściej w postach zawierających cyberprzemoc

Złość pojawia się znacząco częściej w postach zawierających cyberprzemoc (Tabela przedrukowana z cytowanego artykułu).

Wyniki badaczy są bardzo wstępne, a trafność klasyfikatora nie jest jeszcze wysoka. Badanie to pokazuje jednak bardzo obiecujący kierunek, w którym analiza emocji może uchronić wiele osób przed staniem się ofiarami cyberprzemocy.

Cytowane badanie:
Pinar Arslan, Michele Corazza, Elena Cabrio, Serena Villata. Overwhelmed by Negative Emotions? Maybe You Are Being Cyber-bullied! SAC 2019 – The 34th ACM/SIGAPP Symposium On Applied Computing, Apr 2019, Limassol, Cyprus.

Autorką posta jest Barbara Konat, kierowniczka badawcza Sentimenti.