LLM пропонує. Логіка вирішує. Нейросимвольні агенти, логіка вищого порядку і ШІ, який ми майже забули [ukr]

Мовна модель пише вільно і часом помиляється впевнено. У чаті це коштує однієї поганої відповіді. В агенті з пам’яттю — більше: агент зберігає помилку, міркує з неї й завтра повторює. Пошук не може сказати, яка з двох суперечливих нотаток правильна, а друга модель у ролі судді лише передбачає правдоподібний вердикт.

Ліки не нові. До глибокого навчання експертні системи, як-от MYCIN і XCON, тримали знання у вигляді правил, застосовували їх щоразу однаково й відповідали на «чому?» і «як?». Підвело їх одне: внесення знань, бо кожне правило вводили вручну. Саме це LLM уміють дуже добре. Нейросимвольний ШІ знову з’єднує дві половини.

Доповідь проходить цей шлях на одному наскрізному прикладі: асистент, чия LLM «пам’ятає» зустріч у Берліні, тоді як у календарі та сама людина в цю годину в Лісабоні. Ми розберемо дедукцію, індукцію й абдукцію і те, чому LLM сильні саме в останній; міркування над графом знань із Prolog і Datalog; і те, чому логічне програмування вищого порядку (λProlog) добре пасує агентам: типи, що відкидають некоректний вивід LLM, відношення як значення, локальні припущення «а що як», правила про правила й доведення, які перевіряє мале ядро. Наприкінці — робочий агент, чия LLM пише λProlog за шістьма вартовими, і чесні цифри про те, що логічний шар ловить, а чого не може.

Для інженерів ШІ та агентів, які знають Python і LLM. Знань логіки чи математики не потрібно.