Rzecznik Praw Obywatelskich podjął temat skuteczności i prawidłowości użycia programu monitorującego aktywności użytkowników w sieci, który funkcjonuje w udostępnionej szkołom Ogólnopolskiej Sieci Edukacyjnej. Nie tylko wykrywa on zagrożenia i chroni przed nieodpowiednimi treściami, lecz także może zapobiegać tragediom. Możliwe, że wszystko to jednak za cenę ingerencji w prywatność dzieci i nauczycieli. Na pytanie, jak państwo wykorzystuje ten program, odpowiedział już dyrektor Naukowej i Akademickiej Sieci Komputerowej.

Ogólnopolska Sieć Edukacyjna to program Ministerstwa Cyfryzacji oferujący szkołom szybki i darmowy internet. W OSE funkcjonuje program monitorujący zachowania użytkowników w sieci. Z informacji prasowych wynika, że system jest w stanie „na podstawie przesyłanych obrazów, wideo i wiadomości wyłapać emocje i zamiary uczniów”. Analiza treści i aktywności internetowej pozwala wykrywać zagrożenia. Zgodnie z tymi samymi doniesieniami użycie systemu może wiązać się jednak z naruszeniem prywatności dzieci, młodzieży i nauczycieli. NASK rozwiewa wątpliwości i tłumaczy obecny etap wdrażania oraz sposób działania budzącego kontrowersje systemu B3 dla OSE.

Jak państwo wykorzystuje system monitorujący uczniów w internecie?

Rzecznik Praw Obywatelskich wystosował pismo do Dyrektora Naukowej i Akademickiej Sieci Komputerowej, Ministra Edukacji i Nauki oraz Ministra Cyfryzacji. Najważniejszą kwestią jest zbadanie i rozwianie wątpliwości w zakresie zasad funkcjonowania systemu B3.

Zagadnienia do wyjaśnienia to:

• Na jakiej podstawie prawnej został wprowadzony system B3?
• Jakie regulacje określają zasady działania, cele i założenia systemu?
• Jakie są możliwości technologiczne systemu?
• W jaki sposób aktualnie system jest wykorzystywany i w jaki sposób będzie wykorzystywany w przyszłości?
• Kiedy zostaną udostępnione raporty generowane przez system?

 
Treść listu RPO znajdą Państwo TUTAJ.

Ochrona prywatności danych osobowych, a system B3 

Największe obawy co do działania systemu monitorowania aktywności w sieci budzi to, czy nie ingeruje on za bardzo w życie prywatne użytkowników – w tym przypadku osób ze środowiska szkolnego. Z artykułu Pauliny Nodzyńskiej wynika, że: „wykorzystując sztuczną inteligencję, potrafi wykryć, co uczniowie oglądają, czytają, a także co sobie wysyłają i co do siebie piszą w internecie”. RPO zwraca uwagę, że nie można ograniczać prawa do prywatności i autonomii informacyjnej. Można to zrobić jedynie w ściśle określonych w Konstytucji RP warunkach. Takimi mogą być przeciwdziałanie przemocy w szkole i mowie nienawiści. W tym przypadku system B3 może ingerować w prywatność w celu wykrywania zagrożeń związanych z cyberprzemocą oraz patotreści.

Raporty i wyniki pracy systemu 

Mimo dużych możliwości w zakresie ochrony użytkowników do tej pory nie zostały przedstawione wyniki pracy systemu. Nie udostępniono także żadnych raportów.

Oznacza to, że system może pracować i ingerować w konstytucyjne prawo do prywatności i autonomii informacyjnej, lecz owoce jego pracy nie są wykorzystywane do ochrony uczniów przed zagrożeniami w internecie – co w świetle Konstytucji miałoby uzasadniać tą ingerencję. Bez faktycznego wykorzystania systemu zgodnie z jego przeznaczeniem trudno mówić o realizacji konstytucyjnych wymogów jego dopuszczalności. – czytamy na stronie BIP RPO.

Odpowiedź Naukowej i Akademickiej Sieci Komputerowej 

NASK zarówno odniosła się do artykułu, jak i wystosowała odpowiedź na list RPO.

Odpowiedź NASK na artykuł

Naukowa i Akademicka Sieć Komputerowa podkreśliła korzyści, jakie niesie za sobą uruchomienie programu Ogólnopolskiej Sieci Edukacyjnej. Są to przede wszystkim wyrównanie szans edukacyjnych dzieci i młodzieży poprzez nieograniczony dostęp do internetu w szkołach.

Przedstawiła także kwestie bezpieczeństwa w ramach programu OSE – zagrożenia są monitorowane na trzech poziomach (B1, B2, B3). Ponadto wyjaśniła sposób działania budzącego kontrowersje systemu B3, który: (…) w swoim założeniu pełni funkcje monitorowania dostępu do treści potencjalnie szkodliwych, ale nie ingeruje ani w aktywność użytkowników Internetu, ani też w komunikację elektroniczną pomiędzy użytkownikami. Pełną odpowiedź przeczytają Państwo TUTAJ.

Według RPO dodatkowego wyjaśnienia wymagają informacje na temat możliwości systemu B3.

Odpowiedź NASK na pismo RPO

NASK rekomenduje pracownikom szkoły korzystanie z udostępnionych materiałów edukacyjnych (kursy e-learningowe, scenariusze lekcji, poradniki) z zakresu bezpiecznego korzystania z sieci. Znajdują się one na platformie OSE. Ponadto udzieliła odpowiedzi na pytania rzecznika.

• Na jakiej podstawie prawnej został wprowadzony system 3B?

OSE ma obowiązek zapewnić szkole bezpieczeństwo teleinformatyczne, m.in. ochronę przed szkodliwym oprogramowaniem, monitorowanie zagrożeń i bezpieczeństwa sieciowego. Gwarantuje to Ustawa o OSE z 27 października 2017 r.

• Kiedy zostaną udostępnione raporty generowane przez system?

Zgodnie z harmonogramem udostępnienie raportów z wyników pracy systemu B3 dla dyrektorów szkół zostało zaplanowane na początek roku szkolnego 2023/2024. Pojawią się one na portalu Moje OSE. Raport będzie zawierał informacje statystyczne dotyczące poszczególnych kategorii w odniesieniu do danej szkoły. Umożliwią one planowanie celowych działań w zakresie poszczególnych kategorii problemów zaobserwowanych w danej szkole.

• Jakie regulacje określają zasady działania, cele i założenia systemu?

Przygotowywany system B3 jest zgodny z założeniami przyjętymi przy tworzeniu programu OSE opisanymi w Studium Wykonalności projektu „Budowa węzłów bezpieczeństwa szkolnego ruchu internetowego Ogólnopolskiej Sieci Edukacyjnej realizowanego w ramach osi priorytetowej I »Powszechny dostęp do szybkiego Internetu« Programu Operacyjnego Polska Cyfrowa na lata 2014–2020”.

Podstawową zasadą działania systemu jest monitorowanie ruchu sieci internetowej bez ingerencji w przesyłane treści oraz prywatność użytkowników. Wyklucza on analizę ruchu w przypadku komunikacji dotyczącej wiadomości poczty elektronicznej, komunikatorów internetowych, jak również wszystkich portali internetowych, które mogą zawierać dane wrażliwe bądź umożliwiające identyfikację użytkownika. Dzięki temu nie ingeruje w życie prywatne uczniów i nauczycieli, dotyka jedynie tych treści, które nie zawierają co do zasady danych wrażliwych.

• Jakie są możliwości technologiczne systemu?

Usługi bezpieczeństwa w ramach projektu OSE, które są obecnie udostępnione do korzystania przez szkoły, zapewniają kompleksową ochronę przed cyberzagrożeniami. Pracują w różnych obszarach technologicznych:

- B1 – rozpoznaje domenę jako szkodliwą w treść (tekst, obraz, video) i blokuje do niej dostęp;
- B2 – klasyfikuje adresy URL i blokuje te szkodliwe;
- B3 – nie blokuje dostępu, tylko monitoruje aktywności, zachowania treści, co w przyszłości będzie podstawą do przygotowania raportu dla dyrektora szkoły.

• W jaki sposób aktualnie system jest wykorzystywany i w jaki sposób będzie wykorzystywany w przyszłości?

Zastosowane mechanizmy klasyfikacji danych opierają się m.in. na narzędziach sztucznej inteligencji, przede wszystkim na uczeniu maszynowym. Aby je odpowiednio dostroić, system obecnie przechodzi fazę „uczenia się”. To znaczy, że trwa poprawa jakości blokowania potencjalnie szkodliwych treści. W ramach uczenia systemu powstaje baza wiedzy o charakterze i specyfice ruchu przetwarzanego w szkołach. Jest to niezbędne do zminimalizowania błędów i przekazania prawidłowych informacji dyrektorom szkół. 

W efekcie działania systemu B3 i jego wpływu na konfigurację systemów bezpieczeństwa OSE rozpoznanie jednej treści potencjalnie szkodliwej w jednej tylko szkole da możliwość zablokowania jej dla wszystkich szkół w Polsce.

Pełną treść odpowiedzi NASK na list RPO znajdą Państwo TUTAJ.

Źródła:

1. Jak państwo wykorzystuje system monitorujący uczniów w internecie? Odpowiedź NASK https://bip.brpo.gov.pl/pl/content/rpo-uczniowie-ose-monitoring-mc-mein-nask-odp (dostęp: 30.05.2023 r.).
2. Pismo RPO z dnia 5.05.2023 r. Rzecznik Praw Obywatelskich (brpo.gov.pl) (dostęp: 30.05.2023 r.).
3. Odpowiedź NASK 19.05.2023 r. Odpowiedz_NASK_uczniowie_ose_monitoring_B3_19.05.2023.pdf (brpo.gov.pl) (dostęp: 31.05.2023 r.).
4. Paulina Nodzyńska, Ten system może zapobiec samobójstwom dzieci. Ale raporty idą do szuflady, https://wyborcza.pl/7,75398,29639901,szkolny-big-brother-do-szuflady.html#S.MT-K.C-B.1-L.1.duzy (dostęp: 31.05.2023 r.).
5. Odpowiedź na publikacje Gazety Wyborczej w dniach 10 i 13.04.2023 r. Autorstwa Pauliny Nodzyńskiej,https://www.nask.pl/pl/aktualnosci/5170,Odpowiedz-na-publikacje-Gazety-Wyborczej-z-10-i-13-kwietnia-2023-r.html (dostęp: 31.05.2023 r.).