Là cuối tháng 11 năm 2016, và tôi bị chật chội ở góc xa của một dãy hàng dài các bàn làm việc xám trong trung tâm sàng lọc cuộc gọi cho Văn phòng Trẻ em, Thanh thiếu niên và Gia đình quận Allegheny (CYF). Tôi đang chia bàn và một chiếc bàn nhỏ màu tím nhạt với người sàng lọc đầu vào Pat Gordon. Cả hai chúng tôi đều đang nghiên cứu Hệ Thông Tin và Dân số (KIDS), một màn hình màu xanh lá cây đầy ghi chú vụ án, dữ liệu dân số và thống kê chương trình. Chúng tôi tập trung vào hồ sơ của hai gia đình: cả hai đều nghèo, trắng, và sống ở thành phố Pittsburgh, Pennsylvania. Cả hai đã được giới thiệu đến CYF bởi một người báo cáo bắt buộc, một chuyên gia có nghĩa vụ pháp lý phải báo cáo bất kỳ nghi ngờ nào về việc một đứa trẻ có thể gặp nguy hiểm từ người chăm sóc của mình. Pat và tôi đang cạnh tranh xem liệu chúng tôi có thể đoán điểm như thế nào cho một mô hình dự đoán rủi ro mới mà quận đang sử dụng để dự báo lạm dụng và bỏ bê trẻ em, gọi là Công cụ Sàng lọc Gia đình Allegheny (AFST).
Rủi ro là rất lớn. Theo Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh Hoa Kỳ, khoảng một trong bốn trẻ em sẽ trải qua một hình thức lạm dụng hoặc bỏ bê trong suốt cuộc đời họ. Nghiên cứu Về Trải Nghiệm Ác Cảm Xúc Trong Tuổi Thơ của cơ quan này kết luận rằng trải nghiệm lạm dụng hoặc bỏ bê có “ảnh hưởng lớn, suốt cả đời, đến sức khỏe của chúng ta và chất lượng cuộc sống của chúng ta,” bao gồm cả việc tăng cường sự xuất hiện của lạm dụng chất ma túy và cồn, những cố gắng tự tử, và trầm cảm.
Trong căn phòng kính ồn ào, Pat đưa cho tôi một tờ giấy hai mặt có tên là “Dải Liên tục Rủi ro/Nghiêm trọng.” Cô mất một chút thời gian để tìm thấy nó, được bảo vệ bởi một tờ nhựa trong suốt và giấu trong một đống giấy gần cuối bàn làm việc của cô. Cô đã làm việc trong sàng lọc cuộc gọi trong năm năm, và, cô nói, “Hầu hết mọi người, bạn nhớ cái này mà không cần nhớ. Bạn chỉ biết.” Nhưng tôi cần sự giúp đỡ thêm. Tôi bị làm cho nặng nề bởi trọng lượng của quyết định này, mặc dù tôi chỉ là quan sát. Từ những cột chật chội của văn bản nhỏ, tôi biết rằng trẻ em dưới năm tuổi có nguy cơ cao nhất về bị bỏ mặc và bị lạm dụng, rằng các báo cáo trước đó đã được chứng minh tăng cơ hội một gia đình sẽ bị điều tra, và rằng sự thù địch của phụ huynh đối với các điều tra viên CYF được coi là hành vi có nguy cơ cao. Tôi dành thời gian, kiểm tra thông tin trong cơ sở dữ liệu của quận so với tờ hướng dẫn rủi ro/nghiêm trọng trong khi Pat lăn mắt với tôi, trêu chọc, đe doạ nhấp chuột vào nút màu xanh dương lớn chạy mô hình rủi ro.
Đứa trẻ đầu tiên mà Pat và tôi đang đánh giá là một bé trai sáu tuổi mà tôi sẽ gọi là Stephen. Mẹ của Stephen, tìm kiếm điều trị tâm thần vì lo âu, tiết lộ cho bác sĩ tâm lý được tài trợ bởi quận rằng có người nào đó—bà không biết ai—đưa Stephen ra porch của nhà họ vào một ngày tháng Mười Một sớm. Bà tìm thấy anh đang khóc bên ngoài và đưa anh vào trong. Tuần đó, anh bắt đầu hành động nổi loạn, và bà lo lắng rằng có điều gì đó xấu đã xảy ra với anh. Bà thú nhận với bác sĩ tâm lý rằng bà nghi ngờ anh có thể đã bị lạm dụng. Bác sĩ tâm lý của bà đã báo cáo bà cho đường dây nóng lạm dụng trẻ em của tiểu bang.
Nhưng việc bỏ một đứa trẻ khóc trên porch không phải là lạm dụng hoặc bỏ bê theo định nghĩa của tiểu bang Pennsylvania. Vì vậy, người xử lý đầu vào đã loại bỏ cuộc gọi. Ngay cả khi báo cáo không được chứng minh, một bản ghi về cuộc gọi và ghi chú của người sàng lọc cuộc gọi vẫn còn trong hệ thống. Một tuần sau, một nhân viên của một cơ quan dịch vụ về vấn đề vô gia cư lại báo cáo về Stephen: Anh ta đang mặc quần áo bẩn, vệ sinh kém, và có tin đồn rằng mẹ anh ta đang lạm dụng ma túy. Ngoại trừ hai báo cáo này, gia đình không có bản ghi trước đó với CYF.
Đứa trẻ thứ hai là một chàng trai 14 tuổi mà tôi sẽ gọi là Krzysztof. Trong một chuyến thăm sức khỏe cộng đồng vào đầu tháng Mười Một, một quản lý hồ sơ của một tổ chức phi lợi nhuận lớn phát hiện cửa sổ và cửa bị hỏng và căn nhà lạnh. Krzysztof đang mặc nhiều lớp quần áo. Người quản lý hồ sơ báo cáo rằng căn nhà có mùi nước tiểu của thú cưng. Gia đình ngủ ở phòng khách, Krzysztof trên sofa và mẹ anh ta ở dưới sàn nhà. Quản lý hồ sơ phát hiện phòng “rối bời.” Không rõ liệu những điều kiện này có thực sự đáp ứng định nghĩa về lạm dụng trẻ em của Pennsylvania hay không, nhưng gia đình có một lịch sử dài với các chương trình của quận.
Không ai muốn trẻ em phải chịu đựng, nhưng vai trò thích hợp của chính phủ trong việc bảo vệ trẻ em là phức tạp. Các tiểu bang có quyền lực của họ để ngăn chặn, điều tra và truy cứu trách nhiệm về lạm dụng và bỏ bê trẻ em từ Đạo luật Phòng và Chống Lạm Dụng và Điều Trị Trẻ Em, được Tổng thống Richard Nixon ký vào năm 1974. Đạo luật định nghĩa lạm dụng và bỏ bê trẻ em là “bị thương tật thể chất hoặc tinh thần, bị lạm dụng tình dục, đối xử bất cẩn hoặc ngược đãi đối với trẻ em... bởi một người chịu trách nhiệm cho phúc lợi của trẻ em trong các tình huống cho thấy sức khỏe hoặc phúc lợi của trẻ em bị tổn thương hoặc đe dọa.”
Ngay cả sau những làm rõ gần đây rằng sự tổn thương phải là “nghiêm trọng,” có rất nhiều không gian cho tính chủ quan trong việc xác định chính xác làm thế nào là bỏ bê hoặc lạm dụng. Việc đánh đập có phải là lạm dụng không? Hay đường giới hạn chỉ là khi đánh đứa trẻ bằng bàn tay đóng cửa? Việc để trẻ em đi đến công viên một mình có phải là sự bỏ bê không? Ngay cả khi bạn có thể nhìn thấy chúng từ cửa sổ?
Bảng đầu tiên của danh sách các điều kiện được phân loại là hành vi lạm dụng trong KIDS chỉ ra mức độ linh hoạt lớn mà người sàng lọc cuộc gọi có để phân loại hành vi cha mẹ là lạm dụng hoặc bỏ bê. Nó bao gồm: bỏ rơi em bé; bỏ rơi; giải quyết hoặc giải thể nhận nuôi; khả năng không thể đối phó của người chăm sóc; trẻ em có hành vi tình dục; trẻ em lạm dụng chất; hành vi của cha mẹ đặt trẻ em vào tình trạng nguy hiểm; hình phạt thể xác; chăm sóc sức khỏe bị trễ/từ chối; hành vi phạm tội của một đứa trẻ dưới 10 tuổi; bạo lực gia đình; bỏ bê giáo dục; chất độc hại môi trường; tiếp xúc với nguy hiểm; bị trục xuất khỏi nhà; không đủ quần áo, vệ sinh, chăm sóc cơ bản hoặc cung cấp thức ăn; người chăm sóc hoặc phương pháp kỷ luật không thích hợp; thương tổn do người khác gây ra; và cô lập. Danh sách cuộn dài trên vài màn hình nữa.
Điều đáng lo ngại hơn, hoạt động đưa ra nhiều độ chệch chủng tộc nhất vào hệ thống là cách mà mô hình định nghĩa về lạm dụng. AFST không lấy trung bình của hai biến đại diện, có thể sử dụng sự đánh giá chuyên nghiệp của các điều tra viên CYF và các thẩm phán tòa án gia đình để làm giảm độ chệch từ việc giới thiệu thông tin từ cộng đồng. Mô hình chỉ sử dụng số nào cao hơn.
Thứ hai, hệ thống chỉ có thể mô phỏng kết quả dựa trên dữ liệu mà nó thu thập được. Điều này có vẻ như một điểm đương nhiên, nhưng quan trọng để hiểu làm thế nào Stephen và Krzysztof có được các điểm khác biệt và ngược đời nhau đến vậy. Một phần tư các biến mà AFST sử dụng để dự đoán lạm dụng và bỏ mặc trẻ em là các đo lường trực tiếp về độ nghèo: chúng theo dõi việc sử dụng các chương trình kiểm tra phương tiện như TANF, Supplemental Security Income, SNAP và sự hỗ trợ y tế của quận. Một phần tư khác đo lường tương tác với hệ thống quản chế tù nhân trẻ em và CYF chính nó, những hệ thống tập trung một cách chệch chủng tộc vào cộng đồng nghèo và giai cấp công nhân, đặc biệt là cộng đồng màu da. Mặc dù nó đã được quảng cáo như một quả cầu pha lê để dự đoán nguy cơ tổn thương trẻ em, nhưng thực tế là AFST chủ yếu chỉ báo cáo bao nhiêu nguồn lực công cộng mà gia đình đã tiêu thụ.
Quận Allegheny có lượng thông tin đặc biệt nhiều về việc sử dụng các chương trình công cộng. Nhưng quận không có quyền truy cập dữ liệu về những người không sử dụng dịch vụ công cộng. Phụ huynh truy cập điều trị ma túy tư nhân, tư vấn tâm thần, hoặc hỗ trợ tài chính không được đại diện trong dữ liệu DHS. Vì các biến mô tả hành vi của họ không được định nghĩa hoặc bao gồm trong phương trình hồi quy, các phần quan trọng của câu đố về lạm dụng trẻ em bị bỏ sót khỏi AFST.
Sự cô lập địa lý có thể là một yếu tố quan trọng trong lạm dụng trẻ em, ví dụ, nhưng nó sẽ không được đại diện trong bộ dữ liệu vì hầu hết các gia đình sử dụng dịch vụ công cộng ở Quận Allegheny sống ở các khu vực đô thị dày đặc. Một gia đình sống ở cách ly tương đối trong một khu vực ngoại ô giàu có ít có khả năng bị báo cáo đến đường dây nóng về lạm dụng trẻ em hơn là một gia đình sống trong điều kiện nhà ở chật chội. Những người chăm sóc có thu nhập cao sử dụng bảo hiểm tư nhân hoặc trả tiền mặt cho điều trị tâm thần hoặc nghiện, vì vậy họ không được bao gồm trong cơ sở dữ liệu của quận.
Hãy tưởng tượng sự hỗn loạn nếu Quận Allegheny đề xuất bao gồm các báo cáo hàng tháng từ người giữ trẻ, người trông trẻ, các chuyên gia tư nhân, Alcoholic Anonymous và các trung tâm phục hồi sang trọng để dự đoán lạm dụng trẻ em trong gia đình thuộc tầng lớp trung lưu. “Chúng tôi thực sự muốn có dữ liệu bảo hiểm tư nhân. Chúng tôi rất muốn có nó,” nói Erin Dalton, giám đốc Văn phòng Phân tích Dữ liệu, Nghiên cứu và Đánh giá của Quận Allegheny. Nhưng, như bản thân cô ấy thừa nhận, việc lấy dữ liệu tư nhân có lẽ là không thể. Tầng lớp trung lưu chuyên nghiệp sẽ không chấp nhận việc thu thập dữ liệu xâm phạt như vậy.
Những khó khăn của nghèo đối với trẻ em không thể chối cãi là có hại. Chúng cũng có hại cho bố mẹ của chúng. Nhưng bằng cách dựa vào dữ liệu chỉ được thu thập từ các gia đình sử dụng nguồn lực công cộng, AFST không công bằng khi đặt mục tiêu vào các gia đình thu nhập thấp để kiểm tra phúc lợi trẻ em. “Chúng tôi chắc chắn lấy mẫu quá mức từ người nghèo,” Dalton nói. “Tất cả các hệ thống dữ liệu chúng tôi có đều có độ chệch. Chúng tôi vẫn nghĩ rằng dữ liệu này có thể hữu ích trong việc bảo vệ trẻ em.”
Chúng ta có thể gọi đây là việc làm hồ sơ đói nghèo. Giống như hồ sơ đối xử chủng tộc, hồ sơ đói nghèo chọn cá nhân để kiểm tra kỹ lưỡng dựa trên không phải hành vi của họ mà là một đặc điểm cá nhân: Họ sống trong nghèo đói. Bởi vì mô hình nhầm lẫn giữa việc làm cha mẹ trong khi nghèo và việc làm cha mẹ kém, AFST coi các bố mẹ đến các chương trình công cộng như một rủi ro đối với trẻ em của họ.
Nguy cơ sử dụng các biểu hiện thay thế không phù hợp và bộ dữ liệu không đủ có thể là không thể tránh khỏi trong mô hình dự đoán. Và nếu một cuộc điều tra về lạm dụng và bỏ mặc trẻ em là một hành động vô hại, có thể không quan trọng rằng AFST dự đoán không hoàn hảo. Nhưng cuộc điều tra về lạm dụng và bỏ mặc trẻ em có thể là sự kiện xâm phạt, đáng sợ với những tác động tiêu cực kéo dài.
Mục tiêu của tiểu bang Pennsylvania đối với an toàn trẻ em - 'Thoải mái khỏi tổn thương về mặt thể chất hoặc tâm lý ngay lập tức' - có thể khó đạt được, ngay cả đối với các gia đình có nguồn lực tốt. Mỗi giai đoạn của cuộc điều tra CYF mang lại khả năng chủ quan, độ chệch và may mắn. “Bạn không bao giờ biết chính xác điều gì sẽ xảy ra,” nói Catherine Volponi, giám đốc Dự án Tòa án Thiếu nhi, cung cấp hỗ trợ pháp lý miễn phí cho các bậc phụ huynh đối mặt với cuộc điều tra CYF hoặc chấm dứt quyền cha mẹ của họ. “Hãy nói rằng có một cuộc gọi vì trẻ em ở nhà một mình. Sau đó, họ thực hiện cuộc điều tra với mẹ, và cô ấy thừa nhận sử dụng marijuana. Bây giờ bạn đứng trước một thẩm phán người ta, có thể, coi marijuana như là một cánh cửa vào địa ngục. Khi cửa mở, điều mà chúng ta thậm chí không quan tâm có thể biến thành vấn đề lớn này.
Khi kết thúc mỗi cuộc điều tra về bỏ mặc hoặc lạm dụng trẻ em, một kế hoạch an toàn được phát triển cùng với gia đình, xác định các bước cần phải theo dõi ngay lập tức và mục tiêu dài hạn. Nhưng mỗi hành động an toàn cũng là một yêu cầu tuân thủ, và đôi khi, các yếu tố ngoài tầm kiểm soát của phụ huynh làm cho họ khó thực hiện kế hoạch của mình. Các nhà thầu cung cấp dịch vụ cho các gia đình liên quan đến CYF không tuân thủ. Phương tiện giao thông công cộng không đáng tin cậy. Các nhân viên chăm sóc quá tải không luôn có thể sắp xếp các nguồn lực đã hứa. Đôi khi phụ huynh phản đối các yêu cầu của CYF, phản đối sự xâm phạ vào cuộc sống riêng tư của họ.
Không hoàn thành kế hoạch của bạn - bất kể là lý do gì - tăng khả năng một đứa trẻ sẽ bị chuyển đến chăm sóc nuôi. “Chúng tôi không cố gắng trả các gia đình CYF về mức họ đang hoạt động trước đó,” Volponi kết luận, “Chúng tôi nâng cao tiêu chuẩn về việc làm cha mẹ của họ, và sau đó, chúng tôi không có đủ nguồn lực để duy trì mức đó. Điều này dẫn đến những thất bại trên cả tuyệt vời quá nhiều lần.”
Đặc tính con người đã là vấn đề trong lĩnh vực phúc lợi trẻ em từ khi lĩnh vực này bắt đầu. Những người thiết kế mô hình và quản trị viên DHS hy vọng rằng, bằng cách khai thác nguồn dữ liệu phong phú theo sự kiểm soát của họ, AFST có thể giúp những người lọc cuộc gọi chủ quan đưa ra các đề xuất khách quan hơn. Nhưng đặc tính chủ quan của con người đã được tích hợp vào mô hình dự đoán nguy cơ. Biến kết quả của nó chỉ là biểu hiện cho tổn thương trẻ em; chúng không phản ánh sự bỏ mặc và lạm dụng thực sự. Sự lựa chọn của biến đại diện, thậm chí là quyết định sử dụng biến đại diện chủ quan, phản ánh sự đánh giá chủ quan của con người. Các biến dự đoán của AFST được rút ra từ một vũ trụ dữ liệu hạn chế chỉ bao gồm thông tin về nguồn lực công cộng. Quyết định chấp nhận dữ liệu hạn chế như vậy phản ánh sự đánh giá chủ quan của con người được nhúng trong mô hình - và một giả định rằng gia đình tầng lớp trung lưu xứng đáng có quyền riêng tư hơn gia đình nghèo.
Khi nút màu xanh lớn được nhấn và AFST chạy, nó thể hiện một nghìn lựa chọn con người không nhìn thấy dưới lớp vỏ của tính khách quan và tính không sai lầm dựa trên bằng chứng. Những người ủng hộ mô hình khẳng định rằng việc loại bỏ sự chủ quan khỏi người lọc cuộc gọi là một bước tiến mạnh mẽ về sự công bằng, minh bạch và công bằng trong quyết định của chính phủ. Nhưng AFST không loại bỏ sự chủ quan của con người; nó chỉ di chuyển nó. Trong quá khứ, phụ nữ chủ yếu thuộc giai cấp công nhân trong trung tâm cuộc gọi đã có một số kiểm soát trong quyết định của cơ quan. Ngày nay, Quận Allegheny đang triển khai một hệ thống dựa trên giả thuyết đáng ngờ rằng một đội ngũ quốc tế của các nhà kinh tế học và nhà phân tích dữ liệu somehow ít chệch chủ quan hơn so với nhân viên của cơ quan.
Trong trung tâm cuộc gọi, tôi nhắc đến Pat Gordon rằng tôi đã nói chuyện với các bậc phụ huynh liên quan đến CYF về cách AFST có thể ảnh hưởng đến họ. Hầu hết các bậc phụ huynh, tôi nói với cô ấy, quan tâm đến những kết quả giả mạo: mô hình đánh giá con của họ có rủi ro lạm dụng hoặc bỏ mặc cao khi thực tế rủi ro rất thấp. Tôi thấy cách mẹ của Krzysztof có thể cảm thấy như vậy nếu cô ấy được truy cập điểm rủi ro của gia đình cô ấy.
Nhưng Pat nhắc tôi rằng trường hợp của Stephen đặt ra những câu hỏi nguyên tắc tương tự. Tôi cũng nên quan tâm đến những giả mạo âm - khi AFST đánh giá đứa trẻ có rủi ro thấp mặc dù cáo buộc hoặc rủi ro ngay lập tức đối với đứa trẻ có thể nghiêm trọng. “Hãy nói rằng họ không có một lịch sử đáng kể. Họ không hoạt động với chúng tôi. Nhưng [cáo buộc] là một điều rất vi phạm. [CYF] cho phép chúng tôi có chút linh động để tự suy nghĩ. Nhưng tôi không thể ngừng cảm thấy lo lắng rằng ... nói rằng đứa trẻ có một đốm phát triển bị gãy, điều đó rất, rất phù hợp với lạm dụng ... chỉ có một hoặc hai cách bạn có thể gãy nó. Và sau đó [điểm số] đến thấp!
Màn hình hiển thị điểm rủi ro của AFST rõ ràng nêu rõ rằng hệ thống “không được thiết kế để đưa ra quyết định điều tra hoặc quyết định khác liên quan đến phúc lợi trẻ em.” Rhema Vaithianathan nói với tôi vào tháng 2 năm 2017 rằng mô hình được thiết kế sao cho những người lọc cuộc gọi được khuyến khích đặt câu hỏi về độ chính xác dự đoán của nó và tập trung vào quyết định riêng của họ. “Nghe có vẻ mâu thuẫn, nhưng tôi muốn mô hình bị đánh giá thấp một chút bởi những người lọc cuộc gọi,” cô nói. “Tôi muốn họ có thể nói, đây [điểm đánh giá] là 20, nhưng cáo buộc này rất nhỏ bé đến mức [tất cả] mô hình này đang nói cho tôi biết có lịch sử.”
Việc kết hợp sự chủ quan của người lọc cuộc gọi như Pat Gordon với khả năng nghiên cứu sâu vào dữ liệu lịch sử do mô hình cung cấp là công cụ an toàn quan trọng nhất của hệ thống. Gần cuối thời gian chúng tôi ở trung tâm cuộc gọi, tôi hỏi Pat liệu những tổn thương mà giả mạo âm và giả mạo dương có thể gây ra cho gia đình Quận Allegheny có khiến cô thức dậy vào ban đêm không. “Chính xác,” cô trả lời. “Tôi tự hỏi liệu những người ở trung tâm thực sự có hiểu điều đó không. Chúng tôi không tìm kiếm điều này để làm công việc của chúng tôi. Chúng tôi thực sự không. Tôi hy vọng họ hiểu điều đó.” Nhưng giống như lái xe con người của Uber, những người lọc cuộc gọi ở Quận Allegheny có thể đang huấn luyện thuật toán được thiết kế để thay thế họ.
Từ SỰ TỰ ĐỘNG HÓA BẤT BÌNH: Cách Công Cụ Cao Cấp Xác Định, Quản Lý và Trừng Phạt Người Nghèo, của Virginia Eubanks. Xuất bản vào tháng 1 năm 2018 bởi St. Martin's, một nhãn hiệu của Macmillan. Bản quyền © 2018 bởi Virginia Eubanks.
Công nghệ nói rằng nó muốn giúp đỡ người nghèo, nhưng liệu có thực sự không?
Lạm dụng trẻ em không chỉ ảnh hưởng đến cuộc sống của bạn, nó còn thay đổi não bộ của bạn
Nói về lạm dụng là khó khăn, nhưng những biểu tượng cảm xúc này làm cho nó dễ dàng hơn
0 Thích