Могат ли цифровите алгоритми да помогнат за защита на деца като Габриел Фернандес от злоупотреба?

Всяка година около 7 милиона деца се докладват на органите за закрила на детето за възможни злоупотреби, но как властите определят дали децата харесват Габриел Фернандес са в сериозна опасност и се нуждаят от намеса?





Много органи за защита на децата разчитат на оценките на риска, дадени от служители, обучени да управляват телефонни линии, където се съобщава за съмнение за злоупотреба, но някои смятат, че може да има по-добър начин.

„Съществува обширна литература, която видяхме да предполага, че хората не са особено добри кристални топки“, Емили Путнам-Хорнщайн, директор на Детска мрежа за данни и доцент в USC, каза в новата документална поредица на Neflix „Опитите на Габриел Фернандес“. „Вместо това, което казваме, е да обучим алгоритъм, за да идентифицираме кои от тези деца отговарят на профил, където дългият дъгов риск би предполагал бъдещо участие на системата.“



Фернандес беше 8-годишно момче, бито и измъчвано до смърт от него майка и тя гадже , въпреки многократните обаждания от неговия учител и други до властите, съобщаващи за съмнение за злоупотреба. Новата поредица от шест части разглежда живота и ужасяващата смърт на Фернандес, но също така разглежда по-широко системни проблеми в системата за закрила на детето, която би могла да изиграе роля.



r Кели пикае на момиче видео

Putnam-Hornstein твърди, че една стратегия за по-ефективно идентифициране на децата, които са изложени на най-голям риск, би могла да бъде използването на специално създадени алгоритми, които използват административни записи и извличане на данни, за да определят рисковите резултати за всяко дете.



„Всъщност имаме около 6 или 7 милиона деца, за които се съобщава за предполагаема злоупотреба или пренебрегване всяка година в САЩ и в исторически план начинът, по който сме взели някои от нашите решения за скрининг, се основава само на някакви оценки на червата“, каза тя. „Предсказуемото моделиране на рискове просто казва:„ Не, не, не, нека вземем по-систематичен и емпиричен подход към това. “

Putnam-Hornstein и Rhema Vaithianathan, съдиректор на Център за анализ на социални данни , успяха да приложат идеята на практика в окръг Алегени, Пенсилвания. Двойката използва хиляди препоръки за малтретиране на деца, за да разработи алгоритъм, който да определи оценка на риска за всяко семейство, докладвано на службите за защита на децата в окръга, според Център за здравна журналистика .



по кое време хайде клуб за лоши момичета

„Разглеждат се стотици различни фактори“, обясни в поредицата от документи Марк Черна, директор на отдела за хуманитарни услуги в окръг Алегени. „Някои основни примери са история на хуманното отношение към децата, история на родителите, със сигурност употреба на наркотици и пристрастяване, психични заболявания в семейството, затвор и присъди, и особено ако има нападения и други подобни неща.“

Поради големия обем обаждания, органите за социално подпомагане на децата в цялата страна имат за задача да определят дали дадено семейство трябва да бъде проверено за разследване въз основа на жалбата или да бъде проверено.

През 2015 г. 42% от получените 4 милиона обвинения в страната, включващи 7,2 милиона деца, са били проверени, според Ню Йорк Таймс .

И все пак децата продължават да умират от насилие над деца.

Системата, използвана в окръг Алегени, е създадена, за да предскаже по-точно кои семейства вероятно ще участват в бъдеще чрез анализ на данните.

„Това, което имат скрийнърите, е много данни“, каза Вайтянатан пред The ​​Times. „Но е доста трудно да се ориентираш и да знаеш кои фактори са най-важни. В рамките на едно обаждане до C.Y.F. , може да имате две деца, предполагаем извършител, ще имате майка, може да имате друг възрастен в домакинството - всички тези хора ще имат история в системата, която човекът, който проверява обаждането, може да разследва. Но човешкият мозък не е толкова сръчен да използва и осмисли всички данни. '

Инструментът за скрининг на семейство Allegheny използва статистическа техника, наречена „извличане на данни“, за да разгледа историческите модели, за да „се опита да направи прогноза за това, което може да се случи“ във всеки отделен случай, каза тя в поредицата от документи.

За всеки случай се дава оценка на риска, варираща от един до 20 - категоризирайки всеки случай като високорисков, среднорисков или нискорисков.

Рейчъл Бергер, педиатър в Детската болница в Питсбърг, заяви пред The ​​Times през 2018 г., че това, което прави прогнозния анализ ценен, е, че той елиминира част от субективността, която обикновено влиза в процеса.

'Всички тези деца живеят в хаос', каза тя. „Как C.Y.F. изберете кои са най-застрашени, когато всички те имат рискови фактори? Не можете да повярвате на субективността, която влиза в решенията за закрила на детето. Ето защо обичам прогнозната аналитика. Това най-накрая носи известна обективност и научност към решенията, които могат да бъдат толкова невероятно променящи живота. '

Но има и критици, които твърдят, че използването на прогнозна аналитика разчита на данни, които може би вече са пристрастни. Минали изследвания показват, че малцинствата и семействата с ниски доходи често са свръхпредставени в данните, които се събират, което потенциално създава пристрастия срещу афро-американски семейства или други семейства на малцинствата, според документите.

който е бащата на децата на Бритни Спиърс

„Човешките пристрастия и пристрастията към даннитевървете ръка за ръка един с друг', Каза Кели Капатосто, старши научен сътрудник в Института за изследване на расата и етническата принадлежност в Кирван в Държавния университет в Охайо, според Центъра за здравна журналистика. „С тези решения ние мислим за наблюдение и системен контакт - с полицията, агенциите за социални грижи, всички агенции за социално подпомагане. Ще бъде свръхпредставен в общностите (с ниски доходи и малцинства). Не е задължително показателно къде се случват тези случаи. '

Ерин Далтън, заместник-директор на кабинета по анализи, технологии и планиране на окръг Алегени, призна, че е възможно пристрастие.

хълмът има очи истинска история

„Със сигурност в нашите системи има пристрастия. Злоупотребата с деца се възприема от нас и нашите данни не са функция на действителното насилие над деца, а от това кой ще бъде докладван “, каза тя в поредицата Netflix.

Но окръгът също така каза на Центъра за здравна журналистика, че е установил, че получаването на обществени обезщетения намалява рисковия рейтинг за почти семействата му.

Tокръгът е „много чувствителен“ към тази загриженост и прави текущ анализ на системата, за да определи дали групите са насочени непропорционално, каза Черна също в поредицата от документи.

Системата на окръг Алегени е собственост на самия окръг, но има и някои критики към други частни системи за скрининг.

Департаментът за деца и семейни услуги в Илинойс обяви през 2018 г., че повече няма да използва пакет за прогнозен анализ, разработен от Eckerd Connects, с нестопанска цел, и неговия партньор с нестопанска цел MindShare Technology, отчасти защото компанията отказа да предостави подробности за това кои фактори се използват във формулата им, според The ​​Times.

как да се освободите от тиксо

Съобщава се, че системата е започнала да определя хиляди деца като нуждаещи се от спешна защита, предоставяйки на повече от 4100 деца от Илинойс 90% или повече вероятност за смърт или нараняване, Чикагската трибуна отчетени през 2017г.

И все пак други деца, които не са получили високорискови резултати, все пак са умирали от насилие.

„Прогнозната аналитика (не) предсказва нито един от лошите случаи“, директор на Департамента за деца и семейни услуги Бевърли „B.J.“ Уокър каза на Tribune. 'Реших да не продължавам с този договор.'

Даниел Хачър, автор на „ Индустрията на бедността: Експлоатацията на най-уязвимите граждани на Америка ”Сравнява някои от аналитичните системи с„ черна кутия ”, като казва в поредицата от документи, че не винаги е ясно как те вземат решенията си.

„Те нямат начин да разберат как всъщност решават ниво на грижа, което има огромно въздействие върху индивида“, каза той.

Пътнам-Хорнщайн призна, че системите за предсказуем анализ не могат да определят бъдещото поведение, но тя вярва, че това е ценен инструмент, който позволява на проверяващите да вземат по-информирани решения за това кои деца могат да бъдат изложени на най-голям риск.

„Надявам се, че тези модели ще помогнат на нашата система да обърне повече внимание на относително малкия набор от препоръки, където рискът е особено висок и ще можем да отделим повече ресурси за тези деца и семейства по превантивен начин“, каза тя, според към Центъра за здравна журналистика. „Не искам никой да надценява прогнозното моделиране на риска. Това не е кристална топка. Това няма да реши всичките ни проблеми. Но на границата, ако ни позволява да вземем малко по-добри решения и да идентифицираме случаите с висок риск и да ги сортираме от случаите с нисък риск и да ги коригираме съответно, това може да бъде важно развитие на терена. “

Категория
Препоръчано
Популярни Публикации