Компанія IBM розробила інструменти, які дозволять аналізувати в режимі реального часу, як і чому алгоритми штучного інтелекту (ШІ) приймають рішення.

Набір програмних інструментів Fairness 360 Kit буде також виявляти ознаки необ'єктивності рішень і надавати рекомендації для їх коригування.

Цей крок IBM демонструє, що використання ШІ стає все більш серйозною проблемою, оскільки компанії повсюдно впроваджують машинне навчання і різні моделі для прийняття рішень. Часто алгоритми працюють у так званому «чорному ящику», тобто люди не можуть бачити, як приймаються рішення. У керівників можуть виникнути проблеми з розумінням запропонованих ІІ моделей та аналізу даних і процесів, що надаються в готовому вигляді.

Зростає занепокоєння з приводу того, що алгоритми, використовувані як технічними гігантами, так і іншими фірмами, не завжди об'єктивні в процесі прийняття рішень. Наприклад, у недалекому минулому системи розпізнавання образів не змогли ідентифікувати обличчя людей з білим кольором шкіри.

Однак, оскільки алгоритми все частіше приймають автоматичні рішення з широкого кола питань, таким як поліцейська діяльність і страхування, наслідки їх рекомендацій стають більш значущими.

Програмне забезпечення для хмарних обчислень IBM буде працювати з відкритим вихідним кодом і підтримувати безліч широко використовуваних фреймворків для побудови алгоритмів. Зокрема, IBM сумісний з моделями, заснованими на платформах машинного навчання, таких як Watson, Tensorflow, SparkML, AWS SageMaker і AzureML.

IBM заявила, що її технологія дозволить контролювати процес прийняття рішень ІІ, щоб робота підприємств відповідала нормативним вимогам. Клієнти зможуть бачити через візуальну панель, як алгоритми приймають рішення, і які чинники використовуються при складанні остаточних рекомендацій.