«AgoraVox»: будут ли системы ИИ тратить наши деньги?

Что написано:

«ИИ больше не ограничивается ответами на наши вопросы, написанием текстов или анализом данных. Теперь он начинает действовать в экономической сфере, но уже вместо нас.

Компании «Revolut» и «Visa» сделали важный шаг, проведя во Франции эксперимент по осуществлению платежа, инициированного ИИ в реальных условиях.

До сих пор инновации в сфере платёжных средств в основном касались самого инструмента. Мы перешли от наличных к чекам, от чеков к банковским картам, а затем к бесконтактным платежам и смартфонам. Но человек оставался непосредственным инициатором действия, поскольку именно он выбирал и оплачивал.

С появлением ИИ-агентов изменения приобретают иной характер. ИИ может искать товар, сравнивать различные предложения, выбирать решение и, в рамках заранее определённых пользователем параметров, доводить процесс до совершения платежа.

Таким образом, мы имеем дело не просто с эволюцией способов оплаты. Долгое время компьютер лишь выполнял решение, принятое человеком. Теперь же машина может анализировать ситуацию и выполнять последовательность действий, позволяющих достичь поставленной цели.

Для банков и финансового сектора перспективы весьма обширны. Это, например, автоматизация определённых покупок, интеллектуальное управление расходами или оптимизация подписок.

Однако эта эволюция также поднимает важнейшие вопросы безопасности, согласия, ответственности и борьбы с мошенничеством. Ошибку в тексте, сгенерированном ИИ, можно исправить. Ошибка в финансовой операции может немедленно повлечь за собой материальные последствия, порой долгосрочные и даже непредсказуемые.

За этим технологическим прорывом скрывается важнейший вопрос: до какой же степени человек готов делегировать программному обеспечению своё право принимать решения? 

Настоящая проблема в области ИИ заключается не в том, что ему приписывают способность «мыслить» так же, как мы, а в нашей готовности разрешить ему действовать от нашего имени. Что мы на самом деле хотим позволить ему делать вместо нас?»