Adaptive Markov Control Processes

این کتاب به دسته‌ای از فرآیندهای کنترل تصادفی زمان گسسته معروف به فرآیندهای مارکوف کنترل‌شده (CMP)، که به‌عنوان فرآیندهای تصمیم‌گیری مارکوف یا برنامه‌های پویا مارکوف نیز شناخته می‌شوند، سروکار دارد. از اواسط دهه 1950 با ریچارد بلمن، کمک های زیادی به CMPها انجام شد و برنامه های کاربردی برای مهندسی، آمار و تحقیقات عملیاتی، در میان سایر زمینه ها، نیز توسعه یافت. هدف این کتاب ارائه برخی از پیشرفت‌های اخیر در مورد نظریه CMP تطبیقی ​​است. ه. ، CMPهایی که به پارامترهای ناشناخته بستگی دارند. بنابراین در هر زمان تصمیم گیری، کنترل کننده یا تصمیم گیرنده باید مقادیر واقعی پارامترها را تخمین بزند و سپس اقدامات کنترلی را با مقادیر برآورد شده تطبیق دهد. ما قصد نداریم تمام جنبه های کنترل تطبیقی ​​تصادفی را توصیف کنیم. در عوض، انتخاب مواد منعکس کننده علایق تحقیقاتی ما است. پیش نیاز این کتاب دانش تجزیه و تحلیل واقعی و تئوری احتمالات در سطح مثلاً Ash (1972) یا Royden (1968) است، اما هیچ دانش قبلی در مورد فرآیندهای کنترل یا تصمیم گیری لازم نیست. از سوی دیگر، منظور از ارائه، مستقل است، به این معنا که هرگاه از یک نتیجه از احتمال تحلیلگر استفاده شود، معمولاً به طور کامل بیان می شود و در صورت لزوم، منابع برای بحث بیشتر ارائه می شود. چندین ضمیمه برای این منظور ارائه شده است. مطالب به شش فصل تقسیم شده است. فصل 1 شامل تعاریف اساسی در مورد مسائل کنترل تصادفی مورد علاقه ما است. شرح مختصری از برخی از برنامه ها نیز ارائه شده است.

This book is concerned with a class of discrete-time stochastic control processes known as controlled Markov processes (CMP's), also known as Markov decision processes or Markov dynamic programs. Starting in the mid-1950swith Richard Bellman, many contributions to CMP's have been made, and applications to engineering, statistics and operations research, among other areas, have also been developed. The purpose of this book is to present some recent developments on the theory of adaptive CMP's, i. e. , CMP's that depend on unknown parameters. Thus at each decision time, the controller or decision-maker must estimate the true parameter values, and then adapt the control actions to the estimated values. We do not intend to describe all aspects of stochastic adaptive control; rather, the selection of material reflects our own research interests. The prerequisite for this book is a knowledgeof real analysis and prob­ ability theory at the level of, say, Ash (1972) or Royden (1968), but no previous knowledge of control or decision processes is required. The pre­ sentation, on the other hand, is meant to beself-contained,in the sensethat whenever a result from analysisor probability is used, it is usually stated in full and references are supplied for further discussion, if necessary. Several appendices are provided for this purpose. The material is divided into six chapters. Chapter 1 contains the basic definitions about the stochastic control problems we are interested in; a brief description of some applications is also provided.