правильно ли я понимаю, что этот солвер может только в передаточные функции, иначе как вот такое можно объяснить. Сверху угол в радианах, снизу синус
Весь симулинк, по сути, заточен под передаточные функции, как и его fixed-step и variable-step солверы. Но моделировать можно системы, которые описываются уравнениям любого вида (тригонометрическими в том числе). В твоей модели в настройках не выставлено ограничение на максимальный размер шага, поэтому солвер выставляет его таким большим, что самой формы синусоиды не видно. Выставь ограничение и все будет ок. Визуально будет как и в fixed-step, но fixed-step будет быстрее считать.