Instagram propagoval obsah na tému detskej pornografie

Vyzerá to tak, že algoritmy sociálnej siete Instagram aktívne propagovali obsah na tému detskej pornografie. Konkrétnejšie sa do popredia dostali siete, ktoré mali spájať pedofilov a ponúkať im možnosti na predaj a kúpu obsahu zobrazujúceho tieto nechutné činy. Téme sa venovala stránka The Verge.

Instagram bol prostriedkom na predaj obsahu medzi pedofilmi

K samotným účtom, ktoré sa predajom detskej pornografie zaoberajú, sa bolo možné dostať pomocou veľmi nápadných hashtagov, ako #pedowhore, #preteensex či #pedobait. Na predaj boli rozličné videá zobrazujúce nielen pedofíliu, ale aj sebaubližovanie a beštialitu. Výskumníci chceli zistiť viac o algoritme, ktorý tento obsah odporúča, a vytvorili si testovacie účty, cez ktoré tento obsah zobrazovali. Instagram im ihneď odporučil ďalšie účty s podobnou tematikou.

Spoločnosť Meta na to reagovala veľmi znechutene a vznik situácie ju mrzí. Pracuje na zamedzení aktivít takýchto účtov a pravdepodobne aj trénuje algoritmus tak, aby sa podobné situácie neopakovali. V januári Meta údajne vymazala 490 000 účtov podieľajúcich sa na zneužívaní detí a za uplynulé dva roky zrušila 27 pedofilských sietí. Zrušené sú aj tisícky hashtagov smerujúcich na zneužívanie neplnoletých. Obmedzené bolo aj vyhľadávanie podobných hashtagov.