utworzone przez Redakcja | kwi 29, 2026
Naukowcy z Alibaby stworzyli Z-Anime, w pełni wytrenowany model do generowania obrazów w stylu anime. Model bazuje na architekturze S3-DiT z 6 miliardami parametrów i oferuje wysoki poziom kontrolowalności oraz obsługę negatywnych promptów.
utworzone przez Redakcja | kwi 27, 2026
Naukowcy wykazali, że tokeny pamięci są niezbędne dla Universal Transformers do rozwiązywania złożonych zagadek Sudoku. Optymalna liczba tokenów mieści się w zakresie 8-32, poniżej czego model zawodzi.
utworzone przez Redakcja | kwi 25, 2026
Badacze odkryli, że modele transformer mają trudności z generalizacją w zadaniach logicznego rozumowania, gdy napotkają nieznane zmienne. Przyczyną jest tzv. reprezentacyjny kolaps, gdzie wektory ostatniej warstwy nieznanych tokenów stają się prawie...
utworzone przez Redakcja | kwi 25, 2026
Badacze przeprowadzili pierwszą dużoskalową analizę obliczeniową, jak media angielskie przedstawiają konflikty między słoniami a ludźmi w Indiach. Wykorzystali zaawansowane modele AI, w tym transformery i duże modele językowe, do analizy prawie 2000 artykułów...
utworzone przez Redakcja | kwi 24, 2026
Naukowcy zaproponowali nową architekturę Emergence Transformer z dynamicznym temporal attention (DTA), która rozszerza możliwości mechanizmu attention w transformerach poprzez wprowadzenie macierzy query, key i value zmiennych w czasie. Innowacja ta otwiera nowe...