Konflikty wiedzy w modelach RAG: potrzeba prioru, nie reguły

Wyobraź sobie asystenta AI, który jednocześnie czyta świeży dokument i pamięta wszystko, czego się wcześniej nauczył. Co ma zrobić, gdy oba źródła mówią co innego? Badacze właśnie udowodnili, że żadna sztywna reguła rozwiązywania takich konfliktów nie zadziała dobrze w każdej sytuacji. Zamiast tego proponują podejście bayesowskie: model powinien dynamicznie oceniać wiarygodność źródeł, jak doświadczony detektyw ważący poszlaki, a nie jak urzędnik przykładający zawsze ten sam stempel.

Brzmi elegancko, ale pojawia się natychmiast kłopotliwe pytanie: kto i na jakiej podstawie ustali ten "prior", czyli wyjściowe przekonanie o wiarygodności źródeł, bo od tej decyzji zależy dosłownie wszystko, a zła kalibracja może sprawić, że model będzie systematycznie ufać złym informacjom z pełnym przekonaniem.