بایگانی ارديبهشت ۱۳۹۵

Introduction: Roger Fletcher is one of the pioneers and leading figures in nonlinear optimization. He is the "F" of both DFP and BFGS quasi-Newton methods, andthe "Fletcher" of Fletcher-Reeves nonlinear conjugate gradient method. Not to mention his many other sustained and fundamental achievements, his recent pioneering "filter" approach with Sven Leyffer renovated the algorithm design in nonlinear optimization once again. His famous books, Practical Methods of Optimization (Volumes I and II), have deeply influenced both the optimization community and the applied sciences. Due to his illustrious accomplishments, he was awarded the prestigious Dantzig Prize in 1997 jointly by SIAM and the Mathematical Programming Society. He is also a Fellow of the Royal Society and of the Institute of Mathematics and its Applications. It is really my pleasure to interview him particularly about the topic of nonlinear conjugate gradient and quasi-Newton methods, thanks to the idea of Jorge Nocedal.

ادامه مطلب...

۰ نظر

۰ ۱۱ ارديبهشت ۹۵ ، ۱۸:۴۲

حسین زارع

پیاده‌ سازی روش گرادیان مزدوج

چنان که در آموزش قبل گفته شد، روش گرادیان مزدوج یک روش تکراری برای حل دستگاه معادلات خطی $Ax=b$ می‌باشد که در آن $A$ ماتریسی $n\times n$ متقارن و معین مثبت است. همچنین این روش، روشی برای حل مسئله‌ی بهینه‌سازی درجه دوم زیر است:

$$\min f\left( x \right)=\frac{1}{2}{{x}^{t}}Ax-{{b}^{t}}x$$

در این‌جا، می‌خواهیم این روش را برای یک مسئله‌ی نمونه با استفاده از نرم‌افزار Matlab پیاده‌سازی کنیم.

دستگاه معادلات خطی زیر را در نظر می‌گیریم:

$$\begin{bmatrix}3 & 0&2&0&0 \\0 & 2&0&1&-1\\2&0&2&-1&0\\0&1&-1&3&-1\\0&-1&0&-1&1 \end{bmatrix}\begin{bmatrix}x_1\\x_2\\x_3\\x_4\\x_5 \end{bmatrix}=\begin{bmatrix}9\\3\\4\\6\\-1 \end{bmatrix}$$مسئله‎ی بهینه‌سازی نامقید متناظر، پنج متغیره و ضابطه‌ی تابع هدف آن، $f({{x}_{1}},{{x}_{2}},{{x}_{3}},{{x}_{4}},{{x}_{5}})$ ، بصورت زیر است:$$\frac{3}{2}x_1^2+x_2^2+x_3^2+\frac{3}{2}x_4^2+\frac{1}{2}x_5^2+2x_1x_3+x_2x_4-x_2x_5-x_3x_4-x_4x_5-9x_1-3x_2-4x_3-6x_4+x_5$$جواب دستگاه معادلات خطی بالا، مختصات نقطه‌ی کمینه‌ی این تابع را به دست می‌دهد.

به کمک روش گرادیان مزدوج، با نقطه‌ی شروع $x_0=(0,0,0,0,0)^t$، شرط توقف $\left \| \nabla f\left( {{x}^{k}} \right)\right \|<10^{-1}$ و پارامتر فلچر-ریوز این مسئله را حل می‌کنیم.

clear
clc
A=[3 0 2 0 0;
    0 2 0 1 -1;
    2 0 2 -1 0;
    0 1 -1 3 -1;
    0 -1 0 -1 1]
b=[9;3;4;6;-1]
x0=[0;0;0;0;0]
r0=A*x0-b;
p0=-r0;
k=0;
xk=x0;
rk=r0;
pk=p0;
iteration=0;
while norm(rk)>10^-1
    alphak=(rk'*rk)/(pk'*A*pk);
    xk=xk+alphak*pk
    rk1=rk+alphak*A*pk;
    betak1=(rk1'*rk1)/(rk'*rk);
    pk=-rk1+betak1*pk;
    rk=rk1;
    iteration=iteration+1;
end
disp('iteration='), disp(iteration)

با اجرای این برنامه ملاحظه می‌کنیم که جواب مسئله (دستگاه) عبارتست از $x^*=(x_1,x_2,x_3,x_4,x_5)^t=(1,2,3,4,5)^t$ و روش گرادیان مزدوج طی 5 گام به این جواب می‌رسد.

۱ نظر

۰ ۰۵ ارديبهشت ۹۵ ، ۰۰:۳۱

حسین زارع

هفده معادله که دنیا را تغییر دادند

کتاب "در جستجوی ناشناخته‌: ۱۷ معادله که دنیا را تغییر دادند"، نوشته‌ی یان استوارت

از قضیه‌ی فیثاغورس تا معادله‎ی بلک-شولز ...،
از پایه‌ای‌ترین معادله در مثلثات تا مهمترین معادله در ریاضیات مالی ...
یان استوارت، استاد بازنشسته‌ی ریاضی دانشگاه وارویک، در شاهکار بی‌نظیر خود نشان می‌دهد که هفده معادله‌ی مهم جهان ما را تغییر داده‌اند. او در این کتاب، قدرت و زیبایی ریاضیات پشت این معادلات را به‌خوبی توضیح می‌دهد. این کتاب را می‌توانید از اینجا دانلود کنید.

پی‌نوشت (تکمیلی): این کتاب در سال 2017 برنده جایزه کتاب اویلر از جامعه‌ی ریاضی آمریکا شده است.

Ian Stewart (Professor of Mathematics at the University of Warwick)

استوارت می‌گوید که معادلات ریاضی گاهی خسته‌کننده و پیچیده به نظر می‌رسند و دلیل آن هم این است که با روش‌های پیچیده و خسته‌ کننده‌ای بیان شده‌اند. او اضافه می‌کند که هر کسی می‌تواند از زیبایی و اهمیت این معادلات قدردانی کند بدون این که روش حل آن‌ها را بداند. هدف از معرفی این معادلات این است که جایگاه آن‌ها را در زندگی انسان درک کنیم و از جنبه‌های ناگفته و پنهان آن‌ها در تاریخ پرده برداریم. این معادلات، بخش حیاتی و مهم فرهنگ ما هستند؛ چرا که هر کدام از آن‌ها داستانی را به همراه خود دارند. این داستان‌های جذاب درباره‌ی افرادی است که آن‌ها را کشف کرده‌اند و به نوعی شرایط زمانی آن‌ دوران را بازگو می‌کنند.

این ۱۷ معادله عبارت هستند از:

1. قضیه‌ی فیثاغورس (فیثاغورس، 530 سال قبل از میلاد)		$a^2+b^2=c^2$
2. لگاریتم‌‌ها (جان نپر، 1610)		$\log xy = \log x + \log y$
3. حسابان (نیوتن، 1668)		$\frac{\text{d}f}{\text{d}t}=\lim_{h \rightarrow 0}\frac{f(t+h)-f(t)}{h}$
4. قانون گرانش (نیوتن، 1687)		$F=G\frac{m_1m_2}{r^2}$
5. ریشه‌ی دوم منفی یک (اویلر، 1750)		$i^2=-1$
6. فرمول اویلر برای چندوجهی‌ها (اویلر، 1751)		$V-E+F=2$
7. توزیع نرمال (گاوس، 1810)		$\Phi(x)=\frac{1}{\sqrt{2\pi\sigma}}\, e^{-\frac{(x - \mu)^2}{2 \sigma^2}}$
8.معادله‌ی موج (دالامبر، 1746)		$\frac{\partial^2 u}{\partial t^2}=c^2\frac{\partial^2 u}{\partial x^2}$
9. تبدیل فوریه (فوریه، 1822)		$f(\omega)=\int_{-\infty}^{+\infty} f(x)e^{-2\pi ix\omega}dx$
10. معادله‌ی ناویر-استوکس (سی. ناویر و جی. استوکس، 1845)		$\rho(\frac{\partial \bf v}{\partial t}+{\bf v }\cdot\nabla{\bf v})=-\nabla{p}+\nabla\cdot{\bf T}+{\bf f}$
11. معادلات ماکسول (ماکسول، 1865)		$\nabla\cdot{\bf E}=0,~~~~~~~~ \nabla\times{\bf E}=-\frac{1}{c}\frac{\partial \bf H}{\partial t},\\\nabla\cdot{\bf H}=0 ,~~~~~~~ \nabla\times{\bf H}=\frac{1}{c}\frac{\partial \bf E}{\partial t}.$
12.قانون دوم ترمودینامیک (بولتزمن، 1874)		$\text{d}S\ge 0$
13. نسبیت (اینشتین، 1905)		$E=m{{c}^{2}}$
14. معادلات شرودینگر (شرودینگر، 1927)		$ih\frac{\partial }{\partial t}\psi =H\psi$
15. نظریه‌ی اطلاعات (شانون، 1949)		$H=-\sum_x{p(x)\log p(x)}$
16. نظریه‌ی آشوب (رابرت می، 1975)		${{x}_{t+1}}=k{{x}_{t}}(1-{{x}_{t}})$
17. معادله‌ی بلک-شولز (اف. بلک و ام. شولز، 1990)		$\frac{1}{2}{{\sigma }^{2}}{{S}^{2}}\frac{{{\partial }^{2}}V}{\partial {{S}^{2}}}+rS\frac{\partial V}{\partial S}+\frac{\partial V}{\partial t}-rV=0$

۰ نظر

۰ ۰۱ ارديبهشت ۹۵ ، ۰۲:۰۶

حسین زارع

‌حسین زارع

‌حسین زارع

دانش‌آموخته‌ی دکتری ریاضی کاربردی دانشگاه تربیت مدرس

خواندنی‌ها

کتاب

آموزش

نمونه سوال

آزمون‌ها

۴ مطلب در ارديبهشت ۱۳۹۵ ثبت شده است

کتاب‌های معادلات دیفرانسیل

مصاحبه با راجر فلچر

پیاده‌ سازی روش گرادیان مزدوج

هفده معادله که دنیا را تغییر دادند