Когда дело доходит до кибербезопасности, ни одна страна не может позволить себе расслабляться. Если системы обороны той или иной страны не могут предвидеть, как злоумышленник пытается обмануть их, то особенно умная атака может раскрыть военные секреты или использовать замаскированное вредоносное ПО, чтобы взломать систему. Ученые из Университета Мельбурна разрабатывают методы, позволяющие усовершенствовать системы машинного обучения, чтобы они могли предугадывать возможные атаки.
Системы машинного обучения, как правило, хорошо отражают атаки, но не являются полностью защищенными от угроз, так как хакеры постоянно ищут новые способы, чтобы обмануть их. Неспособность работать с незнакомыми атаками является основным слабым местом современным систем машинного обучения. Чтобы решить эту проблему, эксперты разработали систему оценки безопасности машинного обучения, конечная цель которой состоит в том, чтобы создать программный инструмент, который компании и правительственные учреждения смогут использовать для тестирования защиты. Любая компания или агентство, которое использует систему машинного обучения, сможет запустить это программное обеспечение против своей системы. Инструмент будет атаковать и пытаться обмануть систему, чтобы разоблачить ее уязвимость, что позволит определить, как злоумышленник может проскользнуть через защиту системы. Программное обеспечение будет оценивать существующую защиту системы машинного обучения и находить ее слабые места, которые хакеры могли бы использовать в своих целях.