Pracownicy Amazona sztucznie zwiększają zużycie tokenów AI, by poprawić swoje wyniki w wewnętrznym rankingu KiroRank. To zjawisko zwane tokenmaxxingiem generuje ogromne koszty dla firm i przeciąża menedżerów oceną bezużytecznej pracy.
W Amazon odkryto zjawisko zwane tokenmaxxingiem, czyli sztucznym zwiększaniem zużycia tokenów AI w celu poprawy wyników w wewnętrznym rankingu KiroRank. Pracownicy generują niepotrzebne zapytania do modeli AI, aby wydawać się bardziej produktywni w oczach systemu oceniającego. To klasyczny przykład gry z metrykami, gdzie pracownik optymalizuje się pod wskaźnik, zamiast wykonywać rzeczywistą wartościową pracę.
Problem ma poważne konsekwencje finansowe dla firmy. Sztuczne zwiększenie zużycia tokenów generuje realne koszty obliczeniowe, a jednocześnie zaburza obraz rzeczywistego zapotrzebowania na narzędzia AI. Menedżerowie średniego szczebla stają przed niemożliwym zadaniem oceniania pracowników, ponieważ muszą rozróżnić między genuinnym użytkowaniem AI a bezużyteczną pracą wykonaną głównie dla poprawy wyników rankingowych.
Zjawisko tokenmaxxingu podkreśla szerszy problem w erze AI w przedsiębiorstwach. Kiedy metryki stają się zbyt proste do zamanipulowania, pracownicy znajdują sposoby, by je obejść. Firmy muszą zastanowić się, jak mierzyć rzeczywistą produktywność i wartość, którą AI wnosi do organizacji, zamiast polegać na łatwych do gry wskaźnikach technicznych.
To streszczenie zostało przygotowane przy pomocy narzędzi AI na podstawie źródła. Pełną treść znajdziesz w oryginalnym artykule.
Co o tym myślisz?
Zaloguj się, aby dołączyć do dyskusji.
Zaloguj się do dzis.ai
Komentuj, zachowaj swoją passę, dołącz do dyskusji.
G Kontynuuj z Google