Mobilné Správy, Gadgety, Blogy's Secenziami

L1ght sa snaží chrániť používateľov internetu pred toxickým a dravým správaním

Kybernetická bezpečnosť sa považuje za nevyhnutnosť pre všetkých používateľov počítačov, najmä dnes, keď narastajú narušenia údajov a útoky škodlivého softvéru.

Jedným z viac prehliadaných aspektov kybernetickej bezpečnosti je však predchádzanie iným formám počítačovej kriminality, ako je šírenie škodlivého obsahu a dravé správanie.

Väčšina aktuálnych diskusií o kybernetickej bezpečnosti sa točí okolo organizácií, ktoré potrebujú chrániť údaje o zákazníkoch alebo o jednotlivých užívateľoch, aby zabránili zachyteniu ich citlivých údajov. Vzhľadom na výskyt toxického správania je však čas, aby komunita kybernetickej bezpečnosti venovala náležitú pozornosť bezpečnosti internetu, najmä deťom a mladším používateľom.

Cieľom izraelského startupu L1ght je obmedziť šírenie zlého správania online. Využíva umelú inteligenciu (AI) a strojové učenie (ML) na zisťovanie škodlivého obsahu, nenávistných prejavov, šikanovania a iného koristníckeho správania v sociálnych sieťach, komunikačných aplikáciách a online videohrách.

Spoločnosť získala počiatočné financovanie vo výške 15 miliónov dolárov na ďalší rozvoj svojej platformy. Finančné kolo viedli Mangrove Capital Partners, Tribeca Venture Partners a Western Technology Investment.

Vláda Austrálie, Kanady, Nového Zélandu, Veľkej Británie a USA nedávno vydala jedenásť dobrovoľných zásad, ktorých cieľom je usmerniť technologické spoločnosti, ako zmierňovať a riešiť problémy vykorisťovania a zneužívania detí na svojich platformách. Technologická koalícia, ktorá sa skladá z technologických gigantov, medzi ktoré patria spoločnosti Google, Microsoft a Facebook, podporili ste tieto zásady. Skupina sa zaväzuje podporovať informovanosť a hľadať nové technológie, ktoré môžu pomôcť pri riešení problému.

L1ght je v tomto konkrétnom priestore jedinečne pripravený hlavnému hráčovi.

Šírenie online toxicity

Internet je síce dnes rozhodujúcou súčasťou života každého človeka, ale stal sa tiež hlavným dôvodom obáv pre rodičov a zákonných zástupcov po celom svete.

Mnoho používateľov internetu šíri nenávistné prejavy a prejavuje zneužívajúce správanie, ktoré poškodzuje ostatných používateľov. Viac ako polovica alebo 59 percent dospievajúcich v USA zažilo počítačové šikanovanie alebo obťažovanie online. Obete kybernetického šikanovania, formy správania, ako je napríklad volanie na meno, šírenie falošných klebiet a fyzické hrozby, môžu trpieť negatívnymi psychologickými účinkami.

Je pravdepodobnejšie, že dôjde k zmenám ich spánku a prejavia príznaky depresie.

Okrem prijímania online hrozieb a zneužívania sa mladí používatelia internetu môžu ocitnúť aj v rukách predátorov, ktorí sa zameriavajú na mladých a zraniteľných jednotlivcov. Pomocou vyspelých technológií a techník môžu títo zločinci odborne skryť svoje zneužívajúce správanie pred softvérom rodičovskej kontroly a vymáhaním práva.

Predátori sa zvyčajne pripájajú k legitímnym platformám, chatovacím miestnostiam a fóram, aby kontaktovali neplnoleté osoby a vytvorili falošné vzťahy. Títo škodliví dospelí môžu nenápadného mladíka ľahko nalákať a zneužiť. Viac ako jeden z desiatich alebo 11 percent dospievajúcich zažil nechcené online žiadosti.

Použitie AI na boj proti škodlivému obsahu

Našťastie riešenia ako L1ght sa zameriavajú na vylepšenie opatrení na filtrovanie obsahu a moderovanie na rôznych platformách a na použitie AI na označenie zneužívania. Jeho integrácia s rôznymi platformami môže tiež pomôcť moderátorom, vlastníkom, vývojárom a vydavateľom odstrániť zlé správanie odstránením škodlivého obsahu a dokonca prijatím opatrení proti účtom a používateľom.

Spoločnosť L1ght zamestnáva aj multidisciplinárny tím vedcov údajov, odborníkov na kybernetickú bezpečnosť, psychológov a antropológov na vytváranie sofistikovaných algoritmov, ktoré dokážu identifikovať nuansy v komunikácii, aby sa zabezpečila presná a včasná detekcia v rôznych formátoch obsahu, ako sú text, obrázky a video.

L1ght sa snaží chrániť používateľov internetu pred toxickým a dravým správaním 1
L1ght generálny riaditeľ a spoluzakladateľ Zohar Levkovitz

Na rozdiel od konvenčných filtrov obsahu, ktoré používajú zakázané slová na čiernych listinách, algoritmus L1ght dokáže identifikovať potenciálne varianty a hláskovania zneužívajúcich slov a efektívne ich zakázať. To znamená, že pre používateľov neexistuje spôsob, ako obísť filtre a používať nenávistné výrazy v diskusiách online.

Okrem toho je táto technológia dostatočne prepracovaná na analýzu online výmen, aby zistila rozdiely medzi rôznymi druhmi konverzácií, ako sú priateľské rozhovory s odpadkami a verbálne zneužívanie.

Nedávno zabezpečené financovanie sa použije na ďalší vývoj algoritmov L1ght na lepšiu detekciu toxicity v reálnom čase.

Bezpečnejší internet pre deti

Cieľom spoločnosti L1ght je odstrániť toxické správanie online a vytvoriť bezpečné online prostredie, ktoré umožní mladým používateľom využívať výhody internetu bez poškodenia.

„Môj spoluzakladateľ Ron Porat a ja sme založili L1ght, pretože sme videli nebezpečenstvá, ktorým naše deti čelia online, a cítili sme, že sa nestalo dosť na vyriešenie týchto problémov,“ hovoria spoluzakladateľ a generálny riaditeľ spoločnosti L1ght Zohar Levkovitz.

„Našou hlavnou prioritou bolo vždy udržiavať deti v bezpečí a táto investícia je ďalším dôkazom toho, že naša technológia to dokáže. Som poctený a vďačný za to, že naše poslanie na L1ght bolo potvrdené týmto semienkom skutočných priemyselných titanov.“

Súčasťou moderných diskusií o kybernetickej bezpečnosti by malo byť predchádzanie zlému správaniu a odrádzanie od iných foriem počítačovej kriminality a riešenia ako L1ght prispievajú k bezpečnejšiemu internetu, najmä pre deti.