OberonCore

Произвести (+,-,/,*) 2х дробей, у которых вместо знаменателя или числителя может быть уравнение или матрица и т.д.
Например: 10*(sqrt(3)/2). Вместо sqrt(3) могло бы быть уравнение или матрица. Эта задача похожа на парсер Html кода, мне тогда советовали семантический анализ и книгу построение компиляторов. Пример может иметь сложную структуру, моя задача просто дать своей программе математическую задачу и ждать от нее ответ, пусть она сама решает а не я.

Так, в чём вопрос? Научиться разбирать арифметические выражения? Полно книг, полно примеров. Вбейте в поисковик разбор выражений.

Пример
http://habrahabr.ru/post/50196/

Можно вычислять сразу в ББ.

Как программа узнает, что sqrt, это квадратный корень? Значит нужно добавить в программу поддержку функций, Вы говорили о матрицах, значит нужно добавить оперированием матрицами.
В конце получится интерпритатор ограниченного языка. Если для обучения, пока не напишешь не поймёшь. Документации достаточно.

Если вычислить нужно здесь и сейчас, для этого есть более продвинутые средства, вроде matlab'a и т.д Или проще на ББ, вычислил и забыл.

Jordan, я до вашего ответа не знал что нужно вводить в поисковик, спасибо за ответ (разбор выражений) , трудно обьяснить поисковику что то, если не знаешь термины.

Есть стандартный способ, разбора выражений.
Алгоритм сортировочной станции

С примером.

Для наглядности, можно переписать на КП.

Вот пример на паскале.
http://pers.narod.ru/study/pas_parser.html