A HUN-REN SZTAKI vezetésével 3 éves kutatási program indul olyan mesterséges intelligencia rendszerek fejlesztésére, amelyek egészségügyi és ipari környezetben is megbízhatóan, ellenőrizhetően és emberi felügyelet mellett működhetnek. A program egyik kulcsa az ágensalapú megközelítés, amelyben különböző modellek és szabályozott döntési mechanizmusok dolgozhatnak együtt egy közös rendszerben.
Kritikus területekre készül az új magyar kutatási program
A HUN-REN SZTAKI október 15-i közlése szerint az Egészségügyi és ipari MI-alkalmazások című Misszióvezérelt Nemzeti Laboratóriumot Dr. Benczúr András vezeti. A hároméves program célja nem egy általános célú modell újabb változatának elkészítése, hanem olyan intelligens rendszerek kutatása és fejlesztése, amelyek orvosi és mérnöki döntések támogatására is használhatók. Ez olyan alkalmazási környezetet jelent, ahol egy hibás vagy ellenőrizhetetlen válasz következménye lényegesen súlyosabb lehet, mint egy hétköznapi digitális szolgáltatás esetében. Emiatt a kutatás középpontjában a teljesítmény mellett a megbízhatóság, az ellenőrizhetőség és az emberi kontroll áll.
Az általános modell önmagában nem elég
A nagyméretű nyelvi és multimodális modellek képesek szöveg, kép és más típusú információk összetett feldolgozására, kritikus környezetben azonban ez önmagában még nem teszi őket megfelelő döntéstámogató rendszerré. Az egészségügyben és a gyártásban azt is tudni kell, milyen adatokból és milyen szabályok mentén született egy javaslat, hol szükséges szakértői ellenőrzés, illetve hogyan kezelhető egy bizonytalan vagy hibás eredmény. A magyar kutatási program ezért olyan architektúrában gondolkodik, amelyben a generatív modellek képességeit ellenőrzött döntési folyamatokkal lehet összekapcsolni.
Több specializált komponens dolgozhat egy rendszerben
A kutatók egy modulárisan bővíthető, ágensalapú keretrendszer elméleti és módszertani alapjait dolgozzák ki. Ebben nagy nyelvi modellek, multimodális modellek és különböző szabályozott döntési mechanizmusok működhetnek összehangoltan. A gyakorlati jelentőség abból fakad, hogy egy összetett feladatot nem feltétlenül egyetlen modellnek kell megoldania. Külön komponens foglalkozhat például az adatok értelmezésével, másik az információk összevetésével, miközben a kritikus döntési pontokon előre meghatározott szabályok és emberi felügyelet korlátozhatja a rendszer önállóságát.
1,3 milliárd forintos támogatással indul a fejlesztés
Az NKFIH támogatási nyilvántartása szerint a HUN-REN Számítástechnikai és Automatizálási Kutatóintézet Ágens alapú mesterséges intelligencia az egészségügy és a gyártás területein című misszióvezérelt projektje 1,3 milliárd forint támogatásban részesült. A teljes Misszióvezérelt Nemzeti Laboratóriumok programban 14 projekt kapott összesen 20,92 milliárd forintot, ezen belül a technológiai fókusz egyik kiemelt területe a mesterséges intelligencia új alkalmazásainak fejlesztése. A finanszírozási keret azt is jelzi, hogy a programtól nem kizárólag tudományos publikációkat várnak: a pályázati rendszer közvetlenül hasznosítható és demonstrálható kutatás-fejlesztési eredmények létrehozását célozza.
Az emberi szakértelem a rendszer része marad
Az új megközelítés egyik legfontosabb eleme, hogy az orvost vagy mérnököt nem eltávolítani próbálja a döntési folyamatból. A cél olyan prototípusok és módszertanok kidolgozása, amelyek képesek nagy mennyiségű információ feldolgozására és a döntések támogatására, miközben a felelősséget igénylő pontokon megmarad az emberi ellenőrzés. Ez különösen fontos olyan környezetben, ahol az adatok hiányosak lehetnek, a körülmények gyorsan változhatnak, vagy egy modell becslésének következménye közvetlenül érintheti egy beteg ellátását vagy egy ipari folyamat biztonságát.
A magyar érték a kutatási tudás alkalmazható rendszerré alakításában van
A program a 2020 és 2026 között működő Mesterséges Intelligencia Nemzeti Laboratórium eredményeire épít, de az új struktúra már erősebb alkalmazási fókuszt kap. Magyar szempontból éppen ez teszi különösen értékessé: a felhalmozott kutatási kompetencia most olyan rendszerek felé mozdul tovább, amelyeknek egészségügyi és ipari környezetben is bizonyítaniuk kell. A valódi eredményt ezért nem önmagában egy új modell vagy látványos demonstráció jelenti majd, hanem az, ha a magyar kutatói tudásból ellenőrizhető, biztonságosan integrálható és később ténylegesen hasznosítható technológia születik.
Forrás: HUN-REN SZTAKI, HUN-REN Magyar Kutatási Hálózat, Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal
CS.SZ.
(Képeink illusztrációk.)
