Sebevražda a Facebook AI
Obsah:
Když člověk zemře při sebevraždě, ti v jejich životě se často ptají, co mohli udělat, aby se tomu zabránilo.
Uživatelé sociálních médií mohou dokonce litovat, že vidí něco znepokojujícího vyslaného osobou, nicméně s tím nic neudělá.
V inzerciFacebook ve snaze pomoct, oznámil rozšíření svých nástrojů umělé inteligence (AI), aby zjistil, kdy někdo vyjadřuje myšlenky na sebevraždu nebo sebevraždu na webových stránkách sociálních médií.
Před měsícem Facebook využíval nástroje pouze u některých uživatelů ve Spojených státech. Nyní je k dispozici většině 2 miliard uživatelů, s výjimkou těch v Evropské unii, které mají přísnější zákony o soukromí a internetu.
Mark Zuckerberg, výkonný ředitel společnosti Facebook, říká, že toto využití AI je pozitivní vývoj.
Reklama Nedávno zveřejnil na své časové ose na Facebooku, že "Jen v minulém měsíci nám tyto nástroje AI pomohly spojit se s prvními respondenty rychle více než 100krát. "
Jak přesně to dělají nástroje?
ReklamaZveřejňovatFacebook neodhaluje podrobné informace, zdá se však, že nástroj funguje skrz příspěvky nebo videa a upozorňuje je na to, když se na ně podívá slova, videa a obrázky, které mohou naznačovat, že je člověk riziko sebevraždy.
Facebook již používá AI v podobném problému pro skenování a odstranění příspěvků, které představují dětskou pornografii a další nežádoucí obsah.
Zástupce společnosti Facebook řekl společnosti Healthline, že nástroje prevence sebevraždy pomáhají detekovat obsah rychleji. AI také pomáhá upřednostnit zprávy, což ukazuje, které případy jsou více serioius.
Následně vyškolení členové komunitního operačního týmu Facebook zkontrolují obsah a určí druh pomoci, kterou poskytne uživateli.
Tito členové pracují po celém světě nepřetržitě a přezkoumají oba reporty z nástrojů AI a od dotčených uživatelů Facebooku.
ReklamaZveřejňovatJedním ze způsobů, jak nástroj AI detekuje sebevražedné tendence, je tím, že vyzve uživatele k otázkám jako: "Jste v pořádku? " "Mohu pomoci? "A" Potřebujete pomoc? " "
Komunitní operační tým společnosti Facebook je pověřen prohlížením obsahu hlášeného jako násilného nebo znepokojujícího.
V květnu společnost Facebook oznámila, že do operačního týmu přidá dalších 3 000 pracovníků, které měly v té době 4 500 zaměstnanců.
Reklama Podle mluvčího Facebook technologie pomáhá rozpoznat obsah a videa, které uživatelé na Facebooku často posílají rychleji než přítel nebo členové rodiny mohou ohlásit materiál.
Když jsou tyto informace zjištěny, uživatel Facebooku je v kontaktu s podporou Facebook Live chat od organizací podporujících krizi prostřednictvím aplikace Messenger a schopen chatovat v reálném čase.
ReklamaZveřejňovatObhájce sebevraždy na palubě
Při vytváření AI pro prevenci sebevražd Facebook spolupracuje s organizacemi pro duševní zdraví, včetně Save. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)" a Forefront sebevražedná prevence.
Daniel J. Reidenberg, PsyD, výkonný ředitel společnosti Save. org, říká, že je nadšený, že společnost Facebook podniká kroky k napomáhání pokroku v prevenci sebevražedných snah tak, jak tomu bylo předtím.
"Pokud se podíváme na posledních 50 nebo 60 let - ať už hovoříte o pokrocích v léčbě nebo léčbě sebevraždy a duševního zdraví - neviděli jsme redukce nebo došlo k poklesu sebevraždy kvůli těmto věcem, takže myšlenka že technologie, která může pomoci, je tou nejlepší příležitostí, kterou máme teď, abychom se pokusili zachránit životy, "řekl Reidenberg Healthline.
Reklama Zatímco poznamenává, že nástroje AI nemusí být plně navrženy a mohou představovat falešné pozitiva ohrožených lidí, říká, že je to špičková intervence při prevenci sebevražd, která může trvat dlouho, než je pochopena účinnost.
"Předtím, než se objevila AI, byly falešné pozitivní výsledky od lidí, kteří na Facebooku hlásili věci, kteří si mysleli, že přítel by mohl být sebevražedné. AI jen urychluje proces, aby pomohl eliminovat některé z těchto falešných pozitivních faktorů a opravdu vyzdvihl ty, kteří jsou skutečně ohroženi, "řekl Reidenberg.
Dodává, že lidé ukazují známky sebevražedných tendencí na sociálních médiích a že to není ani dobrá ani špatná věc."Sociální média jsou právě tam, kde lidé dnes žijí. Před lety to byli v parku nebo na prázdninách, nebo si mezi sebou všimli poznámky, možná sdílené po telefonu. Jak stále více lidí žije v sociálních médiích, sdílejí jak radostné chvíle, tak i výzvy, kterým čelí, "uvedl.
Změna, dodává, umožňuje lidem naráz stovky a stovky lidí.
Reidenberg říká, že pokud zjistíte, že někdo na sociálních médiích, kteří mohou být depresivní nebo ohroženi sebepoškozováním, sdělte mu zprávu, text nebo telefonát, pokud jste blízcí přátelé. Facebook dokonce nabízí předem naplněné texty, které usnadňují zahájení konverzace.
Pokud se s tímto přístupem necítíte dobře, Reidenberg navrhuje použití funkce hlášení na Facebooku.
"Je to snadná a rychlá práce. Technologie to nemůže udělat sama. Potřebujeme lidi, aby se zapojili. Nedělat něco je to nejhorší možné, co se může stát, "řekl.
Co s problémy s ochranou soukromí?
Kromě dobrého záměru je těžké nevěřit soukromí.
Charles Lee Mudd Jr., soukromý advokát a ředitel společnosti Mudd Law, tvrdí, že skenování na klíčová slova ve službě Facebook by nemělo být považováno za porušení ochrany osobních údajů, pokud to bylo zveřejněno předem.
"Pokud Facebook zveřejní, že přezkoumá obsah, nevidím žádné skutečné obavy o soukromí," uvedl Mudd Healthline. "Je třeba si uvědomit, že vše, co je publikováno kdekoli na internetu, a to i prostřednictvím e-mailu - soukromého či ne - nebo sociálních médií, může najít cestu k nechtěným příjemcům.Alespoň pokud nám Facebook dovolí vědět, že má roboty, které čte naši poštu - nebo alespoň skenovat klíčová slova nebo fráze - můžeme upravit naše chování, pokud to bude nutné. "
Zatímco je Facebook právně jasný, ať už jedná eticky, je pro diskusi.
Keshav Malani, spoluzakladatel společnosti Powr of You, společnosti, která pomáhá lidem vydělat peníze z jejich digitální přítomnosti, říká, že bez ohledu na záměry Facebooku by měla být každá osoba svobodná rozhodovat o tom, jak se používají její osobní údaje.
"Jinak je to kluzký svah o tom, co je považováno za" dobré "a" špatné "použití osobních informací, které sdílíme na platformách, jako je Facebook. Také záměry nestačí, protože předsudky v datech mohou vést k neplatným nebo škodlivým tvrzením ze samotné základní historické korelační analýzy, "řekl Malani Healthline.
Dodává, že AI je jen tak dobré jako data, které přijímá jako vstup.
"Jednotlivé platformy, jako je Facebook, které se snaží předpokládat, že vás znají natolik dobře, že vyvozují závěry o vaší pohodě, budou naivní. Facebook nebo jakákoli jiná mediální záležitost pokrývá jen malou část našeho života a často vykreslují obraz, který se rozhodneme sdílet, takže vyvození závěrů z takového omezeného a možná zaujatého zdroje dat by mělo být prováděno s velkou opatrností. " řekl.
Přesto, Reidenberg říká, že by se lidé neměli bát Facebooku pomocí AI.
"Nejde o to, aby se lidé stýkali s lidmi nebo se dostali do podnikání lidí," řekl. "Používá technologii a lidi, aby se snažili zachránit lidské životy," řekl. "Věřte mi, pokud máte v krizi milovanou osobu, chcete, aby pro ně bylo vše, ať jste v pohotovosti nebo online. "
Ve skutečnosti doufá, že více technologií může zasáhnout s lidmi v krizi.
"Když je někdo v krizi, opouští se možnosti a alternativy. Stávají se velmi zaměřeny na to, co se děje v tomto okamžiku, a nemají potřebné nástroje, aby je mohli dostat, "řekl.
Kdykoli technologie může pomoci lidem nabídnout více možností, Reidenberg říká, že čím méně budou v krizi. Rád by viděl, že technologie vytváří více způsobů, jak identifikovat ohrožené lidi dříve, než jsou dokonce vystaveni riziku, například, depresi.
Například říká, že pokud víme, že když se stane více depresivní, že se vzájemně méně ovlivňujeme, více izolujeme, více se zbavujeme, máme méně energie a mluvíme a píšíme jinak, pak by programování technologie mohlo být prospěšné.
"Řekněme, že jste pravidelný plakát na Facebooku, ale pak jste stále více depresivní v životě a vaše činnost pomalu upadá. Pak začnete psát obrázky na Instagram někoho velmi smutného nebo ponurého dne venku. Pokud se nám podaří získat technologii, která by mohla vyzdvihnout to, co se ve vašem životě děje na základě vašeho chování online, mohli bychom vám začít dávat věci jako zdroje nebo podporu a možná se nám to obrátit, "řekl Reidenberg.
Zuckerberg sdílel podobné postoje ve svém příspěvku, poukazoval na budoucí plány na využití AI jinými způsoby.
"Je toho mnohem víc, co můžeme udělat, abychom to ještě zlepšili," napsal. "V budoucnu bude AI schopen porozumět více subtilních nuancí jazyka a bude schopen identifikovat různé problémy mimo sebevraždu, včetně rychlého pozorování více druhů šikany a nenávisti. "
