We wtorek 14 kwietnia o godzinie 16:15

w Audytorium Centralnym na Wydziale Elektroniki i Technik Informacyjnych

odbyło się spotkanie pod tytułem

„Zignoruj poprzednie instrukcje” — co hakerzy wiedzą o LLM-ach, a Wy powinniście

 Dwie prezentacje przedstawiły ekspertki z  firmy NEXIO Management:

– Maria Różańska (Pyton &AI Team Leader) przedstawiła problemy z agentami AI

Abstract: Sztuczna inteligencja przestała być tylko asystentem – dziś autonomiczne agenty AI czytają maile, piszą kod, zarządzają bazami danych i działają bez nadzoru człowieka. Ale co się dzieje, gdy ktoś postanowi je oszukać?
Podczas wykładu przeszliśmy przez OWASP Top 10 dla aplikacji LLM (2025) – oficjalną listę najpoważniejszych podatności w systemach opartych na dużych modelach językowych.
Zobaczyliśmy, jak atakujący mogą przejąć kontrolę nad agentem AI przez sprytnie sformułowane polecenie ukryte w zwykłym dokumencie,
jak można „zatruć” model jeszcze na etapie trenowania, jak da się wyciągnąć z niego tajne dane korporacyjne oraz jak sprawić, żeby bot sam na siebie doniósł.
Teorię uzupełniły konkretne przykłady z rzeczywistości.

– Agata Kryń (Head of Recruitment) pokazała na co zwraca uwagę rekruter oraz jak powinno wyglądać i co zawierać dobrze opracowane CV

Po prezentacja był czas na swobodne dyskusje i pytania do ekipy pracowników z NEXIO. Omawiano zarówno problemy techniczne (np. wykorzystywanie AI we własnych projektach)
jak i rekrutacyjne (czy i kiedy warto aplikować na praktyki w Nexio).

Fotorelacja ze spotkania poniżej.