Nagymaros AI Retreat
Тижнева інтенсивна програма з машинного та глибокого навчання.
Надьмарош, Угорщина (поблизу Будапешта).
жовт. 2025 р.
- Працювала в команді над вивченням принципів дифузії в дискретному середовищі: прямого та зворотного дифузійних процесів, графіків шуму, дискретних і неперервних цільових функцій тощо.
- Реалізувала в PyTorch дифузійну модель для мовних задач на основі нещодавнього дослідження (https://arxiv.org/pdf/2406.07524). Продовжила проєкт, щоб дослідити здатність дискретних дифузійних моделей до узагальнення.
- Побудувала та оптимізувала архітектури на основі трансформерів для мовного моделювання, здобувши практичний досвід роботи з механізмами уваги та синусоїдальними позиційними кодуваннями.
- Досліджувала white-box adversarial attacks на попередньо навчені моделі класифікації зображень; вивчила та реалізувала різні black-box атаки.
Навички: PyTorch · Дифузійні моделі · Трансформерні моделі · Змагальні атаки (Adversarial Attacks) · Машинне навчання
Читати далі