Wiele osób zakłada, że skoro szkoła korzysta z jakiegoś narzędzia, ktoś musiał je wcześniej zatwierdzić. W przypadku AI edukacyjnej w Polsce sytuacja jest bardziej skomplikowana.
Brak centralnego nadzoru
Nie istnieje w Polsce jedna instytucja, która certyfikuje systemy AI przeznaczone dla uczniów. Ministerstwo Edukacji Narodowej wydaje rekomendacje, ale nie prowadzi obowiązkowych testów konkretnych produktów.
Oznacza to, że szkoła samodzielnie decyduje, czy dane narzędzie jest bezpieczne i wartościowe. Część placówek robi to starannie, część nie ma zasobów, by przeprowadzić rzetelną ocenę.
Kto realnie testuje te systemy
Testowanie spoczywa głównie na producentach oprogramowania. Większe firmy zatrudniają specjalistów ds. bezpieczeństwa i etyki AI, którzy prowadzą wewnętrzne audyty. Mniejsze startupy edukacyjne czasem nie mają takich zasobów.
Unia Europejska pracuje nad regulacjami w ramach AI Act, które wprowadzą obowiązkowe wymogi dla systemów AI używanych przez dzieci. Na ich wdrożenie trzeba jednak jeszcze poczekać kilka lat.
Powrót na górę