رگولاتورها یک سیستم هوش مصنوعی به نام «KIVI» برای شناسایی محتوای­های مستهجن و توهین آمیز در توییتر، تیک تاک، یوتیوب، تلگرام و غیره ایجاد کرده اند که روزانه هزاران پست عمومی و صفحه وب را اسکن می کند.در سال‌های اخیر مقامات رسانه‌ای آلمان علیه هرزه‌نگاری که توسط فناوری‌های تأیید سن محافظت نمی‌شود، اقداماتی انجام داده‌اند. مقامات به توییتر دستور داده اند حساب ها را مسدود کند و سعی کرده اند یکی از بزرگترین وب سایت های پورنو جهان را برای کل جمعیت آلمان مسدود کنند. در آلمان، کمیسیون حمایت از خردسالان در رسانه ها (KJM)  مسئول محافظت از کودکان به صورت آنلاین است. در این ساختار 14 مقام رسانه دولتی هستند که مسئولیت مناطق جداگانه را بر عهده دارند. قوانین این کشور می‌گوید در دسترس قرار دادن محتوای مستهجن برای افراد زیر ۱۸ سال غیرقانونی است.بسیاری از گزارش های اخیر پلیـس مربوط به اشتراک‌گذاری پورن در توییـتر است. برخی افراد از توییتر هشـدارهایی دریافت کرده اند که می گویند حسابهای آنها قوانین محتوای آلمان را زیر پا می گذارد و باید حذف شود برخی دیگر نامه هایی را از پلیس دریافت کرده اند. به گفته «آنکه پلاس»، مدیر ارتباطات و سخنگوی اداره رسانه برلین و براندنبورگ، در ماه دسامبر 32 اکانت‌ اشتراک‌گذاری محتوای مستهجن به دفتر دادستان عمومی گزارش شد و در ماه مارس این مقام 104 پرونده را به دادستان ارسال کرد. وی تاکید کرد «ارائه دهندگان» محتوای مرتبط به بزرگسالان مسئول اطمینان از عدم دسترسی کودکان و نوجوانان به آن محتوا هستند. «پلاس» می گوید: «اگر ارائه دهندگان این شرایط را برآورده نکنند، طبق قانون مجازات حبس تا یک سال یا جریمه نقدی در انتظار آنهاست. پلاس تخمین می زند که اکثر موارد منجر به جریمه 300 یورویی (322 دلار) می شود.

 نظارت بر شبکه های اجتماعی با استفاده از هوش مصنوعی

از سـال 2019، تنظیـم‌کننده‌های رسـانه‌ای آلمان در حـال توسـعه و استفاده از یک سیستم هوش مصنوعی برای شناسایی محتوای آنلاینی هستند که ممکن است مغایر با قوانین این کشور باشد. سیستم هوش مصنوعی که «KIVI» نام دارد توسط سازمان رسانه ای نوردراین-وستفالن به همراه یک شرکت خصوصی مستقر در برلین توسعه داده شد و اکنون توسط تمام مقامات رسانه ای در سراسر آلمان مورد استفاده قرار می گیرد. گفته می‌شود «KIVI» می‌تواند پست‌های عمومی در هفت رسانه اجتماعی و برنامه پیام‌رسان - از جمله توییتر، یوتیوب، تیک تاک، تلگرام و VK (نسخه روسی فیس‌بوک)- و همچنین وب‌سایت‌ها در اینترنت باز را اسکن کند.  فیس بوک و اینستاگرام متا که برهنگی را ممنوع کرده اند، در حال حاضر اسکن نمی شوند. با توجه به توضیحات این ابزار، می‌تواند 10 هزارصفحه را در روز بررسی کند. مدت کوتاهی پس از اینکه مقامات شروع به استفاده از «KIVI» کردند، اعلام کردند که ردیابی‌های این ابزار به شدت افزایش یافته است.

سخنگوی اداره رسانه ای نوردراین-وستفالن می گوید که از سال 2021 این مقام تقریباً 5000 نقض را شناسایی کرده است. این سیستم با جستجوی کلمات کلیدی و لینک‌های از پیش تعیین‌شده آلمانی، محتوای مشکل‌ساز را جستجو می‌کند و مقامات می‌گویند که از ترکیبی از تشخیص تصویر و تشخیص متن برای تشخیص نتایج مثبت استفاده می‌کند.«KIVI»  به دنبال انواع مختلفی از محتوا، از جمله افراط گرایی سیاسی و انکار هولوکاست، خشونت، و پورنوگرافی است. با این حال، طبق ارقامی که توسط مقامات رسانه ای نوردراین-وستفالن به اشتراک گذاشته شده است، "تخلفات" پورن در صدر فهرست قرار دارند و در دو سال گذشته 1944 مورد ثبت شده است.  به گفته «آنکه پلاس» این سیستم موارد نقض احتمالی قوانین را علامت‌گذاری می‌کند و سپس بازرسان انسانی نتایج آن را بررسی می‌کنند و تصمیم می‌گیرند که آیا اقدامی باید انجام شود یا خیر.  به گفته «آنکه پلاس» این سیـستم موارد نقض احتـمالی قوانین راعلامت‌گذاری می‌کند و سپس بازرسان انسانی نتایج آن را بررسی می‌کنند و تصمیم می‌گیرند که آیا اقدامی باید انجام شود یا خیر. وب‌سایت خبری فناوری آلمان «NetPolitik» در ژوئیه 2022 راهنمای عملیاتی «KIVI» را دریافت کرد.  این سند 234 صفحه‌ای نحوه عملکرد سیستم را توضیح می‌دهد و به اپراتورها نشان می‌دهد که چگونه مشکلات احتمالی را به شرکت‌های فناوری گزارش دهند. مقامات در نوردراین-وستفالن در مورد گسترش این سیستم در سراسر اروپا صحبت کرده اند.

   منبع: wired