Научниците успеале да направат нервна мрежа што препознава кога веќе не може да и се верува.
Оваа мрежа е дизајнирана да го имитира човечкиот мозок и дамки на обрасци во маса податоци што луѓето повеќе не можат да ги анализираат.
Вештачката интелигенција (AI), како што е онаа во автономните возила или медицинската опрема, веќе донесува одлуки што можат да влијаат на животот на луѓето, што значи дека е од витално значење да биде што е можно попрецизна. За да се постигне ова, експертите создале систем на нервна мрежа што може да генерира ниво на доверба и предвидување.
„За нас не е важно само да имаме модели со високи перформанси, туку и да разбереме кога не можеме да им веруваме на тие карактеристики“, рече компјутерскиот научник Александар Амини од Институтот за компјутерски науки и вештачка интелигенција на МИТ (CSAIL).
Оваа самосвест за вештачката интелигенција ја заснова својата оценка врз квалитетот на достапните податоци. Колку се поточни и сеопфатни податоците добиени за време на обуката, толку поверојатно ќе бидат идните предвидувања. Ова може да биде важно за, на пример, автономните возила кои треба да одлучат според нивото на сигурност дали да чекаат или да поминат низ раскрсница, велат научниците.
Иако експертите претходно вградиле слична заштита во нервните мрежи, оваа најнова нервна мрежа функционира значително побрзо од другите, без прекумерни компјутерски побарувања, пишува Science Alert.
Дури и ако сегашните нервни мрежи донесуваат правилни одлуки во 99 проценти од ситуациите, тие 1% погрешни одлуки можат да имаат сериозни последици. Експертите од МИТ сметаат дека нивниот нов, поедноставен тест за доверба може да помогне во подобрувањето на безбедноста.
Истражувањето Deep Evidential Regression ќе биде презентирано на конференцијата NeurIPS во декември, но сè уште нема рецензии од независни експерти.
Извор: B92.net