Število uporabnikov in njihovih objav na družbenih omrežjih dandanes še vedno raste. To pa predstavlja vse večjo težavo za platforme. Ob enormnih količinah podatkov je nadzor vseh skoraj nemogoč, zato prihaja do spodrsljajev.
Facebook je imel v prvi polovici letošnjega leta veliko težav, ko so ga Združeni narodi obtožili širjenja nasilja in nestrpnosti v Mjanmaru. Facebook je nastalo zmešnjavo reševal z brisanjem strani in uporabniških računov, a se zavedajo, da je potrebno storiti nekaj, kar bo podobne spodrsljaje preprečilo pred objavo.
Dodaten dejavnik, ki družbenim medijem ukazuje boljšo moderacijo lastnih vsebin, so razne reforme na področju avtorskega prava.
Družbena omrežja na čelu s Facebookom rešitve iščejo v umetni inteligenci. Facebook je na svojem blogu predstavil povsem nov sistem oziroma stroj z imenom Rosetta. Ta naj bi uspešno razbirala besedilo iz objavljenih slik in s tem preprečevala sovražni govor ter hkrati uporabnikom ponudila izboljšano verzijo iskanja med slikami.
Razbiranja besedila iz slik se bo Rosetta lotila v dveh korakih. V prvem bo na sliki poiskala pravokotne prostore, v katerih bi se lahko nahajalo besedilo. V drugem koraku pa se bo v zaznanih okvirčkih lotila prepoznave besedila. Rosetta že obvlada številne jezike – tudi nekatere izmed tistih, ki ne uporabljajo latinice.
Facebook ima sicer že dalj časa v uporabi orodje za optično prepoznavanje znakov, a pri izjemno velikih količinah objav prevečkrat zataji. To pa naj pri Rosetti ne bi bila težava, saj bi dnevno pregledala več kot milijardo objavljenih fotografij.
Ustanovitelj Facebooka Mark Zuckerberg je že večkrat poudaril, da bo umetna inteligenca rešila problem potrebe po dodatni moderaciji objav. Dokler je Rosetta v fazi dodelave, pa je zaposlil kar 20 tisoč dodatnih moderatorjev, ki bodo ta čas preprečevali širjenje sovražnega oziroma prepovedanega govora.
Ob Facebooku bo Rosetto uporabljal tudi Instagram, a bo potrebno na dodelano verzijo še počakati. Naučiti se mora še precej jezikov, pred njo pa je še precej težji izziv – razbiranje teksta iz videov. Za kaj takega bo potrebnega nekaj inovativnega, saj pregledovanje posameznih video sličic zaradi ogromne količine le-teh ne pride v poštev.
