Суть даного підходу - у розробленні формальних моделей, що дозволяють аналізувати кріптопротоколи алгебраїчних на основі вивчення властивостей криптографічного системи. Серед переваг даного підходу слід зазначити можливість створення інструментаріїв, за допомогою яких допускається автоматизувати процес дослідження кріптопротоколов. В результаті з'явився протокольний аналізатор (NRL Protocol Analyzer), за допомогою якого були виявлені як відомі, так і невідомі уразливості. На сьогоднішній день даний підхід до аналізу кріптопротоколов практично не використовується.