Share This
Связаться со мной
Крути в низ
Categories
//В МТИ создали автоматизированную модель машинного обучения для поиска проблем в коде

В МТИ создали автоматизированную модель машинного обучения для поиска проблем в коде

16.04.2021Category : My Habr

В Массачусетском технологическом институте совместно с IBM разработали автоматизированный метод поиска слабых мест в моделях обработки кода с повышенной устойчивостью к атакам.

v mti sozdali avtomatizirovannuju model mashinnogo obuchenija dlja poiska problem v kode f74d831 - В МТИ создали автоматизированную модель машинного обучения для поиска проблем в коде

Модель в процессе написания кода предлагает функции из библиотеки Python NumPy

Инструменты повышения производительности, такие как Eclipse и Visual Studio, уже предлагают готовые фрагменты кода, которые разработчики могут использовать в работе. Их автоматизированные функции основаны на сложных языковых моделях, которые научились читать и писать компьютерный код после изучения тысяч примеров. Но, как и другие модели глубокого обучения, эти модели, предназначенные для обработки кода, имеют встроенные уязвимости, которые позволяют хакерам манипулировать входными данными.

Ошибки могут иметь серьезные последствия для моделей обработки кода всех типов. Например, они позволяют обманывать модели обнаружения вредоносных программ.

Исследователи предложили структуру для автоматического изменения программ, чтобы выявить слабые места в моделях, обрабатывающих их. Алгоритм определяет места в программе, где добавление или замена кода заставляет модель делать самые большие ошибки. Он также находит виды правок, которые представляют наибольшую опасность.

Исследователи говорят, что структура показывает, насколько хрупкими являются некоторые модели. Их модель способна учиться на своих ошибках и в процессе потенциально может получить более глубокое понимание программирования.

По мнению разработчиков, в будущем модель можно будет обучить работать с кодом подобно человеку-программисту .

  • 1 views
  • 0 Comment

Leave a Reply

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.

Свежие комментарии

    Рубрики

    About Author 01.

    Roman Spiridonov
    Roman Spiridonov

    Привет ! Мне 38 лет, я работаю в области информационных технологий более 4 лет. Тут собрано самое интересное.

    Our Instagram 04.

    Categories 05.

    © Speccy 2020 / All rights reserved

    Связаться со мной
    Close