La progettazione di agenti con la teoria dei giochi
Nella progettazione degli agenti artificiali sono particolarmente interessanti i tentativi di applicare la teoria dei giochi.
Cos'è la teoria dei giochi? E' lo studio delle scelte strategiche razionali degli agenti e dell'equilibrio finale, in particolari situazioni detti comunemente "giochi". E' molto utilizzata in economia.
Tuttavia, l'uso della teoria dei giochi nell'intelligenza artificiale è ostacolata da alcune difficoltà.
I limiti della teoria dei giochi nell'intelligenza artificiale
Nella teoria dei giochi si studiano le strategie di equilibrio più razionali a disposizione dell'avversario. Tutte le altre sono eliminate.
Un agente razionale intelligente, invece, dovrebbe considerare tutte le strategie probabili degli altri agenti.
E' infatti possibile che gli altri prendano decisioni sbagliate, irrazionali o, semplicemente, si presentino degli errori, guasti o imprevisti.
Esempio. In un'auto driverless, si presuppone che gli altri veicoli utilizzino la freccia prima di cambiare corsia. E' la strategia più razionale. Tuttavia, non sempre accade.
Non basta analizzare l'equilibrio di Nash per trovare le scelte migliori possibili dell'agente, perché prenderebbe in considerazione soltanto una parte delle strategie possibili.
E' preferibile utilizzare l'equilibrio di Bayes-Nash che prende in considerazione la distribuzione probabilistica di tutte le strategie possibili a disposizione degli altri giocatori.
Tuttavia, in ogni caso l'analisi della teoria dei giochi è limitata alle sole situazioni di equilibrio.
Per questa ragione la teoria dei giochi è utile ma poco utilizzabile per la costruzione di un agente razionale intelligente e per risolvere problemi POMDP.
La teoria dei giochi non analizza tutte le decisioni dinamiche reali degli agenti.
E' utile soprattutto per analizzare le situazioni di equilibrio in condizioni statiche ideali.
Nota. E' la stessa differenza tra ciò che dovrebbe essere ( equilibrio ) e ciò che realmente è ( decisioni dinamiche ).
