ДОКЛАДЫcsl.bas-net.by/xfile/doklad/2009/06-2009/0b4s2g.pdf · 2011-11-02 · 1...

1

ДОКЛАДЫ НАЦИОНАЛЬНОЙ АКАДЕМИИ

НАУК БЕЛАРУСИ

Выходит шесть номеров в год

Журнал основан в июле 1957 года

МИНСК, БЕЛОРУССКАЯ НАУКА, 2009, ТОМ 53, № 6

Учредитель – Национальная академия наук Беларуси

Р е д а к ц и о н н а я к о л л е г и я:

М. В. Мясникович (главный редактор), С. А. Чижик (заместитель главного редактора),

С. В. Абламейко, И. М. Богдевич, Н. А. Борисевич, Г. А. Василевич, П. А. Витязь, И. Д. Волотовский, И. В. Гайшун, В. Г. Гусаков, С. А. Жданок, Н. А. Изобов, А. Ф. Ильющенко, Н. С. Казак, А. А. Коваленя, Ф. Ф. Комаров, Е. Ф. Конопля,

И. В. Котляров, Н. П. Крутько, В. А. Лабунов, Ф. А. Лахвич, О. Н. Левко, А. И. Лесникович, В. Ф. Логинов, А. А. Махнач, А. А. Михалевич, А. Г. Мрочек,

П. Г. Никитенко, Ю. М. Плескачевский, В. И. Семенков, А. Ф. Смеянович, Л. М. Томильчик, В. М. Федосюк, Л. В. Хотылева, И. П. Шейко

Адрес редакции:

220072, Минск, ул. Академическая, 1, к. 119, тел. 284-19-19

http:/nasb.gov.by/rus/publications/dan/ E-mail: [email protected]

СОДЕРЖАНИЕ

МАТЕМАТИКА Соболевский С. Л. Пенлеве-классификация обыкновенных дифференциальных уравнений произвольного порядка с квадратичной правой частью................................................................................................................ 5 Ровба Е. А., Микулич Е. Г. Константы в приближении функции | х | интерполяционными рациональными процессами .............................................................................................................................................................. 11 Астровский А. И. Преобразование линейных нестационарных систем наблюдения со скалярным выхо-дом к каноническим формам Фробениуса ............................................................................................................ 16 Кушель О. Ю. О спектре и аппроксимациях одного класса неразложимых матриц....................................... 22 Шлык В. А. Комбинаторные операции порождения вершин политопа разбиений чисел .............................. 27 Забрейко П. П., Короц Ю. В. Анализ неявных последовательных приближений .......................................... 33 Матысик О. В., Савчук В. Ф. Итерационная процедура неявного типа решения операторных уравнений в гильбертовом пространстве ................................................................................................................................ 39

ФИЗИКА Жестков С. В. Построение солитоноподобных решений системы уравнений Захарова с логарифмическими законами нелинейности.......................................................................................................................................... 45 Кудряшов В. В., Курочкин Ю. А., Овсиюк Е. М., Редьков В. М. Движение частицы в магнитном поле в пространстве Лобачевского ................................................................................................................................ 50

1

ДОКЛАДЫ НАЦИОНАЛЬНОЙ АКАДЕМИИ

НАУК БЕЛАРУСИ

Выходит шесть номеров в год

Журнал основан в июле 1957 года

МИНСК, БЕЛОРУССКАЯ НАУКА, 2009, ТОМ 53, № 6

Учредитель – Национальная академия наук Беларуси

Р е д а к ц и о н н а я к о л л е г и я:

М. В. Мясникович (главный редактор), С. А. Чижик (заместитель главного редактора),

С. В. Абламейко, И. М. Богдевич, Н. А. Борисевич, Г. А. Василевич, П. А. Витязь, И. Д. Волотовский, И. В. Гайшун, В. Г. Гусаков, С. А. Жданок, Н. А. Изобов, А. Ф. Ильющенко, Н. С. Казак, А. А. Коваленя, Ф. Ф. Комаров, Е. Ф. Конопля,

И. В. Котляров, Н. П. Крутько, В. А. Лабунов, Ф. А. Лахвич, О. Н. Левко, А. И. Лесникович, В. Ф. Логинов, А. А. Махнач, А. А. Михалевич, А. Г. Мрочек,

П. Г. Никитенко, Ю. М. Плескачевский, В. И. Семенков, А. Ф. Смеянович, Л. М. Томильчик, В. М. Федосюк, Л. В. Хотылева, И. П. Шейко

Адрес редакции:

220072, Минск, ул. Академическая, 1, к. 119, тел. 284-19-19

http:/nasb.gov.by/rus/publications/dan/ E-mail: [email protected]

СОДЕРЖАНИЕ

МАТЕМАТИКА Соболевский С. Л. Пенлеве-классификация обыкновенных дифференциальных уравнений произвольного порядка с квадратичной правой частью................................................................................................................ 5 Ровба Е. А., Микулич Е. Г. Константы в приближении функции | х | интерполяционными рациональными процессами .............................................................................................................................................................. 11 Астровский А. И. Преобразование линейных нестационарных систем наблюдения со скалярным выхо-дом к каноническим формам Фробениуса ............................................................................................................ 16 Кушель О. Ю. О спектре и аппроксимациях одного класса неразложимых матриц....................................... 22 Шлык В. А. Комбинаторные операции порождения вершин политопа разбиений чисел .............................. 27 Забрейко П. П., Короц Ю. В. Анализ неявных последовательных приближений .......................................... 33 Матысик О. В., Савчук В. Ф. Итерационная процедура неявного типа решения операторных уравнений в гильбертовом пространстве ................................................................................................................................ 39

ФИЗИКА Жестков С. В. Построение солитоноподобных решений системы уравнений Захарова с логарифмическими законами нелинейности.......................................................................................................................................... 45 Кудряшов В. В., Курочкин Ю. А., Овсиюк Е. М., Редьков В. М. Движение частицы в магнитном поле в пространстве Лобачевского ................................................................................................................................ 50

2

Онищук А. Г., Пегасин Д. В., Толкачев Е. А. Группы стабильности в теории 4-полюсников ..................... 54 Скоромник О. Д., Феранчук И. Д. Регуляризация формулы Мотта при рассеянии релятивистских элек-тронов в кулоновском поле .................................................................................................................................... 60

ХИМИЯ

Рудаков Д. А., Широкий В. Л., Книжников В. А., Поткин В. И., Майер Н. А., Старикова З. А. Электрохи-мический синтез тетраметиламмонийной соли 7,4’-диметил-8,8’-дибром-бис(1,2-дикарболлил)железа(III)..... 68 Дихтиевская Л. В., Макаревич Н. А., Можейко Ф. Ф. Влияние ПАВ и неорганических электролитов на межфазное натяжение в системе масло/вода ................................................................................................... 72 Василевская А. В., Сергеев Г. В., Гилеп А. А., Усанов С. А. Специфические ПЦР-мишени для иденти-фикации микобактерий комплекса Mycobacterium tuberculosis .......................................................................... 77 Хрипач В. А., Литвиновская Р. П., Драч С. В., Аверькова М. А., Жабинский В. Н., Свиридов О. В., Прядко А. Г., Новик Т. В., Матвеенцев В. Д. Иммуноферментный анализ (24S)-метилбрассиностероидов ... 82

БИОЛОГИЯ

Гузенко Е. В., Лемеш В. А., Хотылева Л. В. Ризогенез в культуре in vitro у сортов льна-долгунца (Linum usitatissimum L.) ....................................................................................................................................................... 86 Павлючук Н. В., Воронкова Е. В., Булойчик А. А., Маханько В. Л., Русецкий Н. В. Скрининг устой-чивых к L-вирусу генотипов картофеля (Solanum tuberosum) с использованием ПЦР-маркеров .................... 90

МЕДИЦИНА

Цыбовский И. С., Веремейчик В. М., Крицкая С. В., Евмененко С. А., Лобацевич С. М., Павлю- ченко А. В., Картель Н. А., Животовский Л. А. Референтная база данных аутосомных ДНК-маркеров: возможности анализа больших массивов генотипов современного населения Беларуси................................. 94

НАУКИ О ЗЕМЛЕ

Логинов В. Ф., Каратаев Г. И. Тектонофизическая природа шквальных вихрей в Беларуси........................ 100

ТЕХНИЧЕСКИЕ НАУКИ

Тхэквон Ким, Гапоненко Н. В., Степанова Е. А., Ратько А. И. Индуцированные термообработкой изменения в ксерогеле титаната бария-стронция ................................................................................................. 105 Романенков В. Е., Петюшик Е. Е., Афанасьева Н. А. Расчет коэффициента диффузии в системе Al/Al(OH)3/H2O при гидратационном твердении пигментной алюминиевой пудры ........................................ 110 Минченя В. Т., Степаненко Д. А. Линейные колебания двухступенчатого волновода-концентратора для ультразвукового тромболизиса .............................................................................................................................. 114

АГРАРНЫЕ НАУКИ

Шейко И. П., Ходосовский Д. Н. Оценка хряков-производителей по качеству потомства на промыш-ленных свинокомплексах ....................................................................................................................................... 120

Редактор Т. П. П е т р о в и ч Компьютерная верстка Л. И. К у д е р к о

Сдано в набор 10.11.2009. Подписано в печать 15.12.2009. Выпуск в свет 22.12.2009. Формат 60×841/8. Бумага офсетная. Усл. печ. л. 14,88. Уч.-изд. л. 16,4. Тираж 223 экз. Заказ 585.

Цена номера: индивидуальная подписка − 17 250 руб.; ведомственная подписка − 42 814 руб. Республиканское унитарное предприятие «Издательский дом «Беларуская навука». ЛИ № 02330/0494405 от 27.03.2009. Ул. Ф. Скорины, 40, Минск, 220141. Свидетельство о регистрации № 387 от 18.05.2009.

Отпечатано в РУП «Издательский дом «Беларуская навука».

© «Издательский дом «Беларуская навука» Доклады НАН Беларуси, 2009

2

Онищук А. Г., Пегасин Д. В., Толкачев Е. А. Группы стабильности в теории 4-полюсников ..................... 54 Скоромник О. Д., Феранчук И. Д. Регуляризация формулы Мотта при рассеянии релятивистских элек-тронов в кулоновском поле .................................................................................................................................... 60

ХИМИЯ

Рудаков Д. А., Широкий В. Л., Книжников В. А., Поткин В. И., Майер Н. А., Старикова З. А. Электрохи-мический синтез тетраметиламмонийной соли 7,4’-диметил-8,8’-дибром-бис(1,2-дикарболлил)железа(III)..... 68 Дихтиевская Л. В., Макаревич Н. А., Можейко Ф. Ф. Влияние ПАВ и неорганических электролитов на межфазное натяжение в системе масло/вода ................................................................................................... 72 Василевская А. В., Сергеев Г. В., Гилеп А. А., Усанов С. А. Специфические ПЦР-мишени для иденти-фикации микобактерий комплекса Mycobacterium tuberculosis .......................................................................... 77 Хрипач В. А., Литвиновская Р. П., Драч С. В., Аверькова М. А., Жабинский В. Н., Свиридов О. В., Прядко А. Г., Новик Т. В., Матвеенцев В. Д. Иммуноферментный анализ (24S)-метилбрассиностероидов ... 82

БИОЛОГИЯ

Гузенко Е. В., Лемеш В. А., Хотылева Л. В. Ризогенез в культуре in vitro у сортов льна-долгунца (Linum usitatissimum L.) ....................................................................................................................................................... 86 Павлючук Н. В., Воронкова Е. В., Булойчик А. А., Маханько В. Л., Русецкий Н. В. Скрининг устой-чивых к L-вирусу генотипов картофеля (Solanum tuberosum) с использованием ПЦР-маркеров .................... 90

МЕДИЦИНА

Цыбовский И. С., Веремейчик В. М., Крицкая С. В., Евмененко С. А., Лобацевич С. М., Павлю- ченко А. В., Картель Н. А., Животовский Л. А. Референтная база данных аутосомных ДНК-маркеров: возможности анализа больших массивов генотипов современного населения Беларуси................................. 94


Логинов В. Ф., Каратаев Г. И. Тектонофизическая природа шквальных вихрей в Беларуси........................ 100


Тхэквон Ким, Гапоненко Н. В., Степанова Е. А., Ратько А. И. Индуцированные термообработкой изменения в ксерогеле титаната бария-стронция ................................................................................................. 105 Романенков В. Е., Петюшик Е. Е., Афанасьева Н. А. Расчет коэффициента диффузии в системе Al/Al(OH)3/H2O при гидратационном твердении пигментной алюминиевой пудры ........................................ 110 Минченя В. Т., Степаненко Д. А. Линейные колебания двухступенчатого волновода-концентратора для ультразвукового тромболизиса .............................................................................................................................. 114


Шейко И. П., Ходосовский Д. Н. Оценка хряков-производителей по качеству потомства на промыш-ленных свинокомплексах ....................................................................................................................................... 120

Редактор Т. П. П е т р о в и ч Компьютерная верстка Л. И. К у д е р к о

Сдано в набор 10.11.2009. Подписано в печать 15.12.2009. Выпуск в свет 22.12.2009. Формат 60×841/8. Бумага офсетная. Усл. печ. л. 14,88. Уч.-изд. л. 16,4. Тираж 223 экз. Заказ 585.

Цена номера: индивидуальная подписка − 17 250 руб.; ведомственная подписка − 42 814 руб. Республиканское унитарное предприятие «Издательский дом «Беларуская навука». ЛИ № 02330/0494405 от 27.03.2009. Ул. Ф. Скорины, 40, Минск, 220141. Свидетельство о регистрации № 387 от 18.05.2009.

Отпечатано в РУП «Издательский дом «Беларуская навука».

© «Издательский дом «Беларуская навука» Доклады НАН Беларуси, 2009

3

DOKLADY OF THE NATIONAL ACADEMY

OF SCIENCES OF BELARUS

Published bimonthly

The journal has been published since July, 1957

MINSK, BELORUSSKAYA NAUKA, 2009, Vol. 53, No 6

Founder − National Academy of Sciences of Belarus

E d i t o r i a l B o a r d: M. V. Miasnikovich (Editor-in-Chief),

S. A. Chizhik (Associate Editor-in-Chief), S. V. Ablameyko, I. M. Bogdevich, N. A. Borisevich, G. A. Vasilevich, P. A. Vitiaz, I. D. Volotovski, I. V. Gaishun, V. G. Gusakov, S. A. Zhdanok, N. A. Izobov,

A. F. Ilyushchanka, N. S. Kazak, A. A. Kovalenya, F. F. Komarov, E. F. Konoplya, I. V. Kotlyarov, N. P. Krutko, V. A. Labunov, F. A. Lakhvich, O. N. Levko,

A. I. Lesnikovich, V. F. Loginov, A. A. Makhnach, A. A. Mikhalevich, A. G. Mrochek, P. G. Nikitenko, Yu. M. Pleskachevsky, V. I. Semenkov, A. F. Smeyanovich,

L. M. Tomilchik, V. M. Fedosyuk, L. V. Khotyleva, I. P. Sheiko

Address of the Editorial Office: 220072, Minsk, 1 Akademicheskaya Str., room 119

telephone: 284-19-19 http://nasb.gov.by/eng/publications/dan/

E-mail: [email protected]

CONTENTS

MATHEMATICS Sobolevsky S. L. Painleve-classification of ordinary differential equations of arbitrary order with quadratic right-hand side .......................................................................................................................................................... 5 Rovba E. А., Mikulich E. G. Constants in the approximation of |x| using the rational interpolation processes ...... 11 Astrovskii A. I. Transformation of linear time-varying observation systems with the scalar output to the Frobenius canonical forms......................................................................................................................................................... 16 Kushel O. Yu. Spectrum and approximations of one class of irreducible matrices ................................................. 22 Shlyk V. A. Combinatorial operations for generating vertices of integer partition polytopes .................................. 27 Zabreiko P. P., Korots Yu. V. Analysis of the implicit successive approximations............................................... 33 Matysik O. V., Savchuk V. F. Iteration procedure of an implicit type for solution of the operator equations in the Hilbert space ................................................................................................................................................... 39

PHYSICS Zhestkov S. V. Constructing soliton-like solutions of Zakharov’s systems with the logarithmic laws of nonlinearity.... 45 Kudryashov V. V., Kurochkin Yu. A., Ovsiyuk E. M., Red’kov V. M. Motion of a particle in the magnetic field in the Lobachevsky space ................................................................................................................................. 50 Onischuk A. G., Pegasin D. V., Tolkachev E. A. Stability groups in the quadripoles theory................................ 54 Feranchuk I. D., Skoromnik O. D. Regularization of Mott scattering cross section in the Coulomb field ............ 60

3

DOKLADY OF THE NATIONAL ACADEMY

OF SCIENCES OF BELARUS

Published bimonthly

The journal has been published since July, 1957

MINSK, BELORUSSKAYA NAUKA, 2009, Vol. 53, No 6

Founder − National Academy of Sciences of Belarus

E d i t o r i a l B o a r d: M. V. Miasnikovich (Editor-in-Chief),

S. A. Chizhik (Associate Editor-in-Chief), S. V. Ablameyko, I. M. Bogdevich, N. A. Borisevich, G. A. Vasilevich, P. A. Vitiaz, I. D. Volotovski, I. V. Gaishun, V. G. Gusakov, S. A. Zhdanok, N. A. Izobov,

A. F. Ilyushchanka, N. S. Kazak, A. A. Kovalenya, F. F. Komarov, E. F. Konoplya, I. V. Kotlyarov, N. P. Krutko, V. A. Labunov, F. A. Lakhvich, O. N. Levko,

A. I. Lesnikovich, V. F. Loginov, A. A. Makhnach, A. A. Mikhalevich, A. G. Mrochek, P. G. Nikitenko, Yu. M. Pleskachevsky, V. I. Semenkov, A. F. Smeyanovich,

L. M. Tomilchik, V. M. Fedosyuk, L. V. Khotyleva, I. P. Sheiko

Address of the Editorial Office: 220072, Minsk, 1 Akademicheskaya Str., room 119

telephone: 284-19-19 http://nasb.gov.by/eng/publications/dan/

E-mail: [email protected]

CONTENTS

MATHEMATICS Sobolevsky S. L. Painleve-classification of ordinary differential equations of arbitrary order with quadratic right-hand side .......................................................................................................................................................... 5 Rovba E. А., Mikulich E. G. Constants in the approximation of |x| using the rational interpolation processes ...... 11 Astrovskii A. I. Transformation of linear time-varying observation systems with the scalar output to the Frobenius canonical forms......................................................................................................................................................... 16 Kushel O. Yu. Spectrum and approximations of one class of irreducible matrices ................................................. 22 Shlyk V. A. Combinatorial operations for generating vertices of integer partition polytopes .................................. 27 Zabreiko P. P., Korots Yu. V. Analysis of the implicit successive approximations............................................... 33 Matysik O. V., Savchuk V. F. Iteration procedure of an implicit type for solution of the operator equations in the Hilbert space ................................................................................................................................................... 39

PHYSICS Zhestkov S. V. Constructing soliton-like solutions of Zakharov’s systems with the logarithmic laws of nonlinearity.... 45 Kudryashov V. V., Kurochkin Yu. A., Ovsiyuk E. M., Red’kov V. M. Motion of a particle in the magnetic field in the Lobachevsky space ................................................................................................................................. 50 Onischuk A. G., Pegasin D. V., Tolkachev E. A. Stability groups in the quadripoles theory................................ 54 Feranchuk I. D., Skoromnik O. D. Regularization of Mott scattering cross section in the Coulomb field ............ 60

4

CHEMISTRY

Rudakov D. A., Shirokii V. L.,Knizhnikov V. A., Potkin V. I., Maier N. A., Starikova Z. A. Electrochemical synthesis of tetramethylammonium salt 7,4´-dimethyl-8,8´-dibrom-bis(1,2-dicarbollyl)iron(III)............................. 68 Dikhtievskaya L. V., Makarevich N. A., Mozheiko F. F. Influence of surfactants and inorganic electrolytes on interfacial tension in the oil/water system ............................................................................................................ 72 Vasilevskaya A. V., Sergeev G. V., Gilep A. A., Usanov S. A. PCR-targets for detection of the Mycobaterium tuberculosis complex species .................................................................................................................................... 77 Khripach V. A., Litvinovskaya R. P., Drach S. V., Averkava M. A., Zhabinskii V. N., Sviridov O. V., Pryadko A. G., Novik T. V., Matveentsev V. D. Immunoenzyme assay of (24S)-methylbrassinosteroids ........... 82

BIOLOGY

Guzenko E. V., Lemesh V. A., Khotyleva L. V. Rhizogenesis in the in vitro culture in fiber flax (Linum usitatissimum L.) cultivars ........................................................................................................................................ 86 Pavlyuchuk N. V., Voronkova E. V., Buloichik A. A., Makhanko V. L., Rusetsky N. V. Screening of L-virus resistant genotypes of potato (Solanum tuberosum) using PCR-markers .................................................................. 90

MEDICINE

Tsybovsky I. S., Veremeichyk V. M., Kritskaya S. V., Evmenenko S. A., Lobatsevich S. M., Pavlu- chenko A. V., Kartel N. A., Zhivotovsky L. A. Autosomal DNA-marker reference database: possibilities of large modern Belarusian population genotypic sets analysis..................................................................................... 94

EARTH SCIENCES

Loginov V. F., Karataev G. I. Tectonophysical nature of squalls in Belarus.......................................................... 100

TECHNICAL SCIENCES

Taek Won Kim, Gaponenko N. V., Stepanova E. A., Rat’ko A. I. Thermally induced changes in Ba0.6Sr0.3Ca0.1TIO3 xerogel....................................................................................................................................................................... 105 Romanenkov V. E., Petyushik E. E., Afanasjeva N. A. Calculation of the diffusion coefficient in the AL/AL(OH)3/H2O system under hydration hardening of pigment aluminum powder .............................................. 110 Minchenya V. T., Stepanenko D. A. Investigation of linear vibrations of a two-step waveguide for ultrasonic thrombolysis.............................................................................................................................................................. 114

ARGARLAN SCIENCES

Sheiko I. P., Khodosovsky D. N. Estimation of boars in viability and productive traits of the derived posterity at industrial pig complexes........................................................................................................................................ 120

4

CHEMISTRY

Rudakov D. A., Shirokii V. L.,Knizhnikov V. A., Potkin V. I., Maier N. A., Starikova Z. A. Electrochemical synthesis of tetramethylammonium salt 7,4´-dimethyl-8,8´-dibrom-bis(1,2-dicarbollyl)iron(III)............................. 68 Dikhtievskaya L. V., Makarevich N. A., Mozheiko F. F. Influence of surfactants and inorganic electrolytes on interfacial tension in the oil/water system ............................................................................................................ 72 Vasilevskaya A. V., Sergeev G. V., Gilep A. A., Usanov S. A. PCR-targets for detection of the Mycobaterium tuberculosis complex species .................................................................................................................................... 77 Khripach V. A., Litvinovskaya R. P., Drach S. V., Averkava M. A., Zhabinskii V. N., Sviridov O. V., Pryadko A. G., Novik T. V., Matveentsev V. D. Immunoenzyme assay of (24S)-methylbrassinosteroids ........... 82

BIOLOGY

Guzenko E. V., Lemesh V. A., Khotyleva L. V. Rhizogenesis in the in vitro culture in fiber flax (Linum usitatissimum L.) cultivars ........................................................................................................................................ 86 Pavlyuchuk N. V., Voronkova E. V., Buloichik A. A., Makhanko V. L., Rusetsky N. V. Screening of L-virus resistant genotypes of potato (Solanum tuberosum) using PCR-markers .................................................................. 90

MEDICINE

Tsybovsky I. S., Veremeichyk V. M., Kritskaya S. V., Evmenenko S. A., Lobatsevich S. M., Pavlu- chenko A. V., Kartel N. A., Zhivotovsky L. A. Autosomal DNA-marker reference database: possibilities of large modern Belarusian population genotypic sets analysis..................................................................................... 94

EARTH SCIENCES

Loginov V. F., Karataev G. I. Tectonophysical nature of squalls in Belarus.......................................................... 100

TECHNICAL SCIENCES

Taek Won Kim, Gaponenko N. V., Stepanova E. A., Rat’ko A. I. Thermally induced changes in Ba0.6Sr0.3Ca0.1TIO3 xerogel....................................................................................................................................................................... 105 Romanenkov V. E., Petyushik E. E., Afanasjeva N. A. Calculation of the diffusion coefficient in the AL/AL(OH)3/H2O system under hydration hardening of pigment aluminum powder .............................................. 110 Minchenya V. T., Stepanenko D. A. Investigation of linear vibrations of a two-step waveguide for ultrasonic thrombolysis.............................................................................................................................................................. 114

ARGARLAN SCIENCES

Sheiko I. P., Khodosovsky D. N. Estimation of boars in viability and productive traits of the derived posterity at industrial pig complexes........................................................................................................................................ 120

5

Доклады Национальной академии наук Беларуси

2009 ноябрь–декабрь Том 53 № 6

МАТЕМАТИКА

УДК 517.925

С. Л. СОБОЛЕВСКИЙ

ПЕНЛЕВЕ-КЛАССИФИКАЦИЯ ОБЫКНОВЕННЫХ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ ПРОИЗВОЛЬНОГО ПОРЯДКА

С КВАДРАТИЧНОЙ ПРАВОЙ ЧАСТЬЮ

(Представлено академиком Н. А. Изобовым)

Институт математики НАН Беларуси, Минск Поступило 08.07.2008

Предметом настоящей работы являются нелинейные обыкновенные дифференциальные урав- нения в комплексной области произвольного порядка n вида

( ) ( 1) ( 2)2 ( , ,..., , )n n nw P w w w z− −= , (1)

где 2P – квадратичная форма от w и его производных с коэффициентами, аналитическими по z в некоторой области U комплексной плоскости.

Классическое определение свойства Пенлеве [1−3] предполагает отсутствие у решений урав-нения (1) подвижных критических особых точек. Иногда под свойством Пенлеве понимают бо-лее сильное условие, названное в [4] в дословном переводе «специализированным свойством Пенлеве». Вероятно, более естественным является термин «сильное свойство Пенлеве».

О п р е д е л е н и е 1 [4]. Уравнение (1) обладает сильным свойством Пенлеве, если его ре-шения не имеют подвижных особых точек, отличных от полюсов.

Цель работы – нахождение всех уравнений вида (1) порядка 2n ≥ , обладающих сильным свойством Пенлеве (при 1n = уравнение (1) является уравнением Рикатти и заведомо обладает свойством Пенлеве и, тем более, сильным свойством Пенлеве).

Запишем уравнение (1) в виде

1( ) ( ) ( ) ( )

,0 1 0

( ) ( ) ( )nn k j j

k j jj k n j

w a z w w b z w c z−

≤ ≤ ≤ − == + +∑ ∑ , (2)

где , , ,k j ja b c – коэффициенты уравнения, аналитические по z в области U. Обозначим B =

,1 max{ : 0}k jn k j a− − + ≡/ . Данное число называется числом Бюро уравнения (2) и определяет возможный порядок подвижного полюса решений уравнения (2), при котором порядки полюсов в данной точке правой и левой части уравнения (2) совпадают.

Согласно теореме 4 [4] или теореме 4.4 [6, с. 72], для того чтобы уравнение (2) обладало свойством Пенлеве и, тем более, сильным свойством Пенлеве, необходимо, чтобы число Бюро B уравнения (2) равнялось 1 или 2. Соответственно, для уравнения (2) со свойством Пенлеве возможны два случая, соответствующие 1B = и 2B = :

1 1( ) ( ) ( 1 ) ( ) ( ) ( )

, 1 ,[ /2] 1 0

( ) ( ) ( ) ( )n nn k n k k j j

k n k k j jk n j k n j

w a z w w a z w w b z w c z− −

− −− −

= + < − == + + +∑ ∑ ∑ ; (3)

2 1( ) ( ) ( 2 ) ( ) ( ) ( )

, 2 ,[( 1)/2] 2 0

( ) ( ) ( ) ( )n nn k n k k j j



− −− −

= − + < − == + + +∑ ∑ ∑ , (4)

5



МАТЕМАТИКА

УДК 517.925

С. Л. СОБОЛЕВСКИЙ

ПЕНЛЕВЕ-КЛАССИФИКАЦИЯ ОБЫКНОВЕННЫХ ДИФФЕРЕНЦИАЛЬНЫХ УРАВНЕНИЙ ПРОИЗВОЛЬНОГО ПОРЯДКА

С КВАДРАТИЧНОЙ ПРАВОЙ ЧАСТЬЮ

(Представлено академиком Н. А. Изобовым)

Институт математики НАН Беларуси, Минск Поступило 08.07.2008

Предметом настоящей работы являются нелинейные обыкновенные дифференциальные урав- нения в комплексной области произвольного порядка n вида

( ) ( 1) ( 2)2 ( , ,..., , )n n nw P w w w z− −= , (1)

где 2P – квадратичная форма от w и его производных с коэффициентами, аналитическими по z в некоторой области U комплексной плоскости.

Классическое определение свойства Пенлеве [1−3] предполагает отсутствие у решений урав-нения (1) подвижных критических особых точек. Иногда под свойством Пенлеве понимают бо-лее сильное условие, названное в [4] в дословном переводе «специализированным свойством Пенлеве». Вероятно, более естественным является термин «сильное свойство Пенлеве».

О п р е д е л е н и е 1 [4]. Уравнение (1) обладает сильным свойством Пенлеве, если его ре-шения не имеют подвижных особых точек, отличных от полюсов.

Цель работы – нахождение всех уравнений вида (1) порядка 2n ≥ , обладающих сильным свойством Пенлеве (при 1n = уравнение (1) является уравнением Рикатти и заведомо обладает свойством Пенлеве и, тем более, сильным свойством Пенлеве).

Запишем уравнение (1) в виде

1( ) ( ) ( ) ( )

,0 1 0

( ) ( ) ( )nn k j j

k j jj k n j

w a z w w b z w c z−

≤ ≤ ≤ − == + +∑ ∑ , (2)

где , , ,k j ja b c – коэффициенты уравнения, аналитические по z в области U. Обозначим B =

,1 max{ : 0}k jn k j a− − + ≡/ . Данное число называется числом Бюро уравнения (2) и определяет возможный порядок подвижного полюса решений уравнения (2), при котором порядки полюсов в данной точке правой и левой части уравнения (2) совпадают.

Согласно теореме 4 [4] или теореме 4.4 [6, с. 72], для того чтобы уравнение (2) обладало свойством Пенлеве и, тем более, сильным свойством Пенлеве, необходимо, чтобы число Бюро B уравнения (2) равнялось 1 или 2. Соответственно, для уравнения (2) со свойством Пенлеве возможны два случая, соответствующие 1B = и 2B = :

1 1( ) ( ) ( 1 ) ( ) ( ) ( )

, 1 ,[ /2] 1 0

( ) ( ) ( ) ( )n nn k n k k j j



− −− −

= + < − == + + +∑ ∑ ∑ ; (3)

2 1( ) ( ) ( 2 ) ( ) ( ) ( )

, 2 ,[( 1)/2] 2 0

( ) ( ) ( ) ( )n nn k n k k j j



− −− −

= − + < − == + + +∑ ∑ ∑ , (4)

6

где по крайней мере один из коэффициентов ,k ja , для которых k j n B+ = − , не тождественно равен нулю.

Согласно теореме 1 [5] или теореме 4.1 [6, с. 68], уравнение (2) всегда имеет решения с под-вижными особыми точками. Если при этом уравнение (2) обладает сильным свойством Пенлеве, то данные подвижные особые точки – полюса. Несложно показать, что семейство частных реше-ний с подвижными полюсами является n-параметрическим, поскольку рассмотрев частное ре-шение с подвижным полюсом, удовлетворяющее некоторой задаче Коши с регулярными на-чальными данными, можно показать, что и для достаточно близких к рассмотренным начальных данных соответствующие решения уравнения (2) будут также иметь подвижные особенности.

Рассмотрим разложение Лорана

00

( ) j Bj

jw q z z

∞−

== −∑ (5)

произвольного частного решения ( )w w z= уравнения (2) в области подвижного полюса в произ-вольной точке 0z z= , где jq – комплексные коэффициенты, причем 0 0q ≠ . Подставляя (5) в (2) можно, приравнивая коэффициенты при одинаковых степенях 0( )z z− в правой и левой части уравнения (2) начиная с минимальной, последовательно найти все неизвестные коэффициенты

jq , кроме, разве что, конечного числа произвольных коэффициентов. Данная процедура называ-ется тестом Пенлеве и подробно описана в ряде источников, в частности в [3; 7].

Для коэффициента 0q будем иметь определяющее уравнение, которое для исходного урав-нения (2) после сокращения на 0q либо становится линейным и имеет единственный корень, либо, в отдельных случаях, вырождается и не имеет корней. В последнем случае на основании теоре-мы 2 [8] или теоремы 2.4 [6, с. 47] уравнение (2) не имеет свойства Пенлеве.

Пусть теперь 0 0q ≠ существует и единственно. Для индексов произвольных коэффициентов

rq будем иметь так называемое резонансное уравнение ( ) 0R r = , (6) где R – полином. Резонансное уравнение может быть получено как условие исключения произ-вольной постоянной C из коэффициента при 0( )r n Bz z − −− после подстановки 0 0( ) Bw q z z −= − +

0( ) B rC z z − +− в уравнение (2). Порядок полинома R равен порядку уравнения n, а число 1r = − всегда является корнем резонансного уравнения (6), называемым тривиальным. Корни резонанс-ного уравнения называются резонансами. Известным необходимым условием свойства Пенлеве является отсутствие кратных и нецелых резонансов [3, с. 132; 7]. Отрицательные целые резонан-сы, вообще говоря, допускаются. Несложно видеть, что если вид резонансного уравнения зави-сит от 0z , то и значения резонансов непрерывным образом зависят от 0z , что непременно при-водит к наличию нецелых резонансов и отсутствию свойства Пенлеве. Таким образом, набор ре-зонансов для уравнения (2) со свойством Пенлеве не зависит от выбора 0z .

Значит, число произвольных коэффициентов ряда (5) не превосходит 1n − , причем оно равно 1n − , только в случае, когда все резонансы уравнения (2), кроме тривиального, являются попар-

но различными неотрицательными целыми числами. Можно показать, что выполнение указанного условия является необходимым для наличия

у уравнения (2) сильного свойства Пенлеве, так как в противном случае не существовало бы n-параметрического семейства решений уравнения (2) с подвижным полюсом.

Рассмотрим указанное резонансное уравнение (6) в двух возможных случаях (3) и (4). Случаю (3) соответствует уравнение

( ) ( )

1

01 21 , 1 0 1

[ / 2] 0 00

0 ( ) ( 1 )

( )( 1) 1 ! ( 1 ) ( 1) ! ( 1 ) ,

( )

n

tk n kn k n k n k k

k n t t

R r r t

a zn k r t k r t

f z

−

=

− − −− − − − −

= = =

= = − − −

⎛ ⎞− − − − − + − − −⎜ ⎟

⎝ ⎠

∏

∑ ∏ ∏ (7)

6

где по крайней мере один из коэффициентов ,k ja , для которых k j n B+ = − , не тождественно равен нулю.

Согласно теореме 1 [5] или теореме 4.1 [6, с. 68], уравнение (2) всегда имеет решения с под-вижными особыми точками. Если при этом уравнение (2) обладает сильным свойством Пенлеве, то данные подвижные особые точки – полюса. Несложно показать, что семейство частных реше-ний с подвижными полюсами является n-параметрическим, поскольку рассмотрев частное ре-шение с подвижным полюсом, удовлетворяющее некоторой задаче Коши с регулярными на-чальными данными, можно показать, что и для достаточно близких к рассмотренным начальных данных соответствующие решения уравнения (2) будут также иметь подвижные особенности.

Рассмотрим разложение Лорана

00

( ) j Bj

jw q z z

∞−

== −∑ (5)

произвольного частного решения ( )w w z= уравнения (2) в области подвижного полюса в произ-вольной точке 0z z= , где jq – комплексные коэффициенты, причем 0 0q ≠ . Подставляя (5) в (2) можно, приравнивая коэффициенты при одинаковых степенях 0( )z z− в правой и левой части уравнения (2) начиная с минимальной, последовательно найти все неизвестные коэффициенты

jq , кроме, разве что, конечного числа произвольных коэффициентов. Данная процедура называ-ется тестом Пенлеве и подробно описана в ряде источников, в частности в [3; 7].

Для коэффициента 0q будем иметь определяющее уравнение, которое для исходного урав-нения (2) после сокращения на 0q либо становится линейным и имеет единственный корень, либо, в отдельных случаях, вырождается и не имеет корней. В последнем случае на основании теоре-мы 2 [8] или теоремы 2.4 [6, с. 47] уравнение (2) не имеет свойства Пенлеве.

Пусть теперь 0 0q ≠ существует и единственно. Для индексов произвольных коэффициентов

rq будем иметь так называемое резонансное уравнение ( ) 0R r = , (6) где R – полином. Резонансное уравнение может быть получено как условие исключения произ-вольной постоянной C из коэффициента при 0( )r n Bz z − −− после подстановки 0 0( ) Bw q z z −= − +

0( ) B rC z z − +− в уравнение (2). Порядок полинома R равен порядку уравнения n, а число 1r = − всегда является корнем резонансного уравнения (6), называемым тривиальным. Корни резонанс-ного уравнения называются резонансами. Известным необходимым условием свойства Пенлеве является отсутствие кратных и нецелых резонансов [3, с. 132; 7]. Отрицательные целые резонан-сы, вообще говоря, допускаются. Несложно видеть, что если вид резонансного уравнения зави-сит от 0z , то и значения резонансов непрерывным образом зависят от 0z , что непременно при-водит к наличию нецелых резонансов и отсутствию свойства Пенлеве. Таким образом, набор ре-зонансов для уравнения (2) со свойством Пенлеве не зависит от выбора 0z .

Значит, число произвольных коэффициентов ряда (5) не превосходит 1n − , причем оно равно 1n − , только в случае, когда все резонансы уравнения (2), кроме тривиального, являются попар-

но различными неотрицательными целыми числами. Можно показать, что выполнение указанного условия является необходимым для наличия

у уравнения (2) сильного свойства Пенлеве, так как в противном случае не существовало бы n-параметрического семейства решений уравнения (2) с подвижным полюсом.

Рассмотрим указанное резонансное уравнение (6) в двух возможных случаях (3) и (4). Случаю (3) соответствует уравнение

( ) ( )

1

01 21 , 1 0 1

[ / 2] 0 00

0 ( ) ( 1 )

( )( 1) 1 ! ( 1 ) ( 1) ! ( 1 ) ,

( )

n

tk n kn k n k n k k

k n t t

R r r t

a zn k r t k r t

f z

−

=

− − −− − − − −

= = =

= = − − −

⎛ ⎞− − − − − + − − −⎜ ⎟

⎝ ⎠

∏

∑ ∏ ∏ (7)

7

а случаю (4) – уравнение

( ) ( )

1

01 32 , 2 0 2

[( 1) / 2] 0 00

0 ( ) ( 2 )

( )( 1) 1 ! ( 2 ) ( 1) 1 ! ( 2 )

( )

n

tk n kn k n k n k k

k n t t

R r r t

a zn k r t k r t

f z

−

=

− − −− − − − −

= − = =

= = − − −

⎛ ⎞− − − − − + − + − −⎜ ⎟

⎝ ⎠

∏

∑ ∏ ∏ (8)

(в записи обоих случаев предполагаем, что произведение, не содержащее ни одного члена,

равно единице), где 1

, 1[ /2]

( ) ( ) !( 1)!/ !n

k n kk n

f z a z k n k n−

− −=

= − − −∑ для уравнения (7) и ( )f z =

1, 2

[( 1) / 2]( )( 1)!( 1)!/( 1)!

nk n k

k na z k n k n

−

− −= −

+ − − +∑ – для уравнения (8).

Сначала покажем, что уравнение (8) не может иметь 1n − различных целых неотрицатель-ных корней, а значит уравнение (4) не может иметь сильного свойства Пенлеве. Предположим противное и обозначим эти корни 1 2 -10 ... nr r r< < < < . Положим также 0 1r = − . На основании теоремы Виета получим

1 1

0 0( 2)

n nj

j jr j

− −

= =− =∑ ∑ ; (9)

( )1 12 2

0 02 2

n nj

j jr j h

− −

= =− = +∑ ∑ , (10)

где 2,0 0

0

( ).

( )na z

hf z−= Отсюда следует, что h – целое число. Вместе с тем имеем (2)R =

1( 1) ( 1)!n n h−− − . Если 0h > , то (2)R и ( )R −∞ имеют различные знаки, следовательно луч ( ;2]−∞ содержит единственный корень 1r = − уравнения (8), а значит 1 2 12 ... nr r r −< < < < . Положим 2j jr jδ = − − для 1,2,..., 1j n= − . Тогда 1 2 10 ... n−≤ δ ≤ δ ≤ ≤ δ и, с учетом (9),

1 1

0 10 ( 2 ) 3

n nj j

j jr j

− −

= == − − = − + δ∑ ∑ , откуда возможны только следующие три случая:

1) 3 2 1 1 2 41, ... 0n n n n− − − −δ = δ = δ = δ = δ = = δ = ; 2) 2 1 1 2 31, 2, ... 0n n n− − −δ = δ = δ = δ = = δ = ; 3) 1 1 2 23, ... 0n n− −δ = δ = δ = = δ = . При этом, с учетом (10), имеем

( )1 1 1 12 2 2

1 0 1 19 / 2 9 2 / 2

n n n nj j j

j j j jh j j j

− − − −

= = = =

⎛ ⎞ ⎛ ⎞= + δ + − = + δ + δ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

∑ ∑ ∑ ∑ . (11)

С другой стороны, ( ) ( ) ( )1 111

1 1( 1) ( 1)! (2) (2 ( 1)) 2 (2 ) 3 1

n nnnj j

j jn h R j j

− −−−

= =− − = = − − − + + δ = − + δ∏ ∏ , откуда

( )1

13 / ( 1)!

nj

jh j n

−

== + δ −∏ (12)

В случае 1) на основании (11) имеем ( )( )9 3 2 3 6 / 2 3 .h n n= + + − = С другой стороны, в силу (12) имеем 3 / ( 3)h n n= − . Это возможно только при 4n = . Данному случаю соответствует исход-ное уравнение (4) вида

7

а случаю (4) – уравнение

( ) ( )

1

01 32 , 2 0 2

[( 1) / 2] 0 00

0 ( ) ( 2 )

( )( 1) 1 ! ( 2 ) ( 1) 1 ! ( 2 )

( )

n

tk n kn k n k n k k

k n t t

R r r t

a zn k r t k r t

f z

−

=

− − −− − − − −

= − = =

= = − − −

⎛ ⎞− − − − − + − + − −⎜ ⎟

⎝ ⎠

∏

∑ ∏ ∏ (8)

(в записи обоих случаев предполагаем, что произведение, не содержащее ни одного члена,

равно единице), где 1

, 1[ /2]

( ) ( ) !( 1)!/ !n

k n kk n

f z a z k n k n−

− −=

= − − −∑ для уравнения (7) и ( )f z =

1, 2

[( 1) / 2]( )( 1)!( 1)!/( 1)!

nk n k

k na z k n k n

−

− −= −

+ − − +∑ – для уравнения (8).

Сначала покажем, что уравнение (8) не может иметь 1n − различных целых неотрицатель-ных корней, а значит уравнение (4) не может иметь сильного свойства Пенлеве. Предположим противное и обозначим эти корни 1 2 -10 ... nr r r< < < < . Положим также 0 1r = − . На основании теоремы Виета получим

1 1

0 0( 2)

n nj

j jr j

− −

= =− =∑ ∑ ; (9)

( )1 12 2

0 02 2

n nj

j jr j h

− −

= =− = +∑ ∑ , (10)

где 2,0 0

0

( ).

( )na z

hf z−= Отсюда следует, что h – целое число. Вместе с тем имеем (2)R =

1( 1) ( 1)!n n h−− − . Если 0h > , то (2)R и ( )R −∞ имеют различные знаки, следовательно луч ( ;2]−∞ содержит единственный корень 1r = − уравнения (8), а значит 1 2 12 ... nr r r −< < < < . Положим 2j jr jδ = − − для 1,2,..., 1j n= − . Тогда 1 2 10 ... n−≤ δ ≤ δ ≤ ≤ δ и, с учетом (9),

1 1

0 10 ( 2 ) 3

n nj j

j jr j

− −

= == − − = − + δ∑ ∑ , откуда возможны только следующие три случая:

1) 3 2 1 1 2 41, ... 0n n n n− − − −δ = δ = δ = δ = δ = = δ = ; 2) 2 1 1 2 31, 2, ... 0n n n− − −δ = δ = δ = δ = = δ = ; 3) 1 1 2 23, ... 0n n− −δ = δ = δ = = δ = . При этом, с учетом (10), имеем

( )1 1 1 12 2 2

1 0 1 19 / 2 9 2 / 2

n n n nj j j

j j j jh j j j

− − − −

= = = =

⎛ ⎞ ⎛ ⎞= + δ + − = + δ + δ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

∑ ∑ ∑ ∑ . (11)

С другой стороны, ( ) ( ) ( )1 111

1 1( 1) ( 1)! (2) (2 ( 1)) 2 (2 ) 3 1

n nnnj j

j jn h R j j

− −−−

= =− − = = − − − + + δ = − + δ∏ ∏ , откуда

( )1

13 / ( 1)!

nj

jh j n

−

== + δ −∏ (12)

В случае 1) на основании (11) имеем ( )( )9 3 2 3 6 / 2 3 .h n n= + + − = С другой стороны, в силу (12) имеем 3 / ( 3)h n n= − . Это возможно только при 4n = . Данному случаю соответствует исход-ное уравнение (4) вида

8

( )( )2( )

1 2 3 4

25 6 7

( ) '' ' ( ) ''' ( ) '' ( ) ' ( ) '

( ) ( ) ( ).

IVw A z ww w a z w a z w a z w w a z w

a z w a z w a z

= + + + + + +

+ + (13)

В случае 2) на основании (11) имеем ( )( )9 5 2 2( 1) ( 2) / 2 3 3 .h n n n= + + − + − = + С другой сто-роны, в силу (12) имеем 3( 1) / ( 2).h n n= + − Это возможно только при 3n = . Данному случаю соответствует исходное уравнение (4) вида

21 2 3 4 5''' ( ) ' ( ) '' ( ) ' ( ) ( ) ( )w A z ww a z w a z w a z w a z w a z= + + + + + . (14)

В случае 3) на основании (11) имеем ( )( )9 9 2 3( 1) / 2 6 3 .h n n= + + − = + С другой стороны, в силу (12) имеем 3( 2) / ( 1).h n n= + − Это возможно только при 2n = . Данному случаю соответ-ствует исходное уравнение (4) вида

21 2 3'' ( ) ( ) ' ( ) ( )w A z w a z w a z w a z= + + + . (15)

Если же 0h < , то полагая 2j jr jδ = − − для 0,1,..., 1j n= − на основании (9), (10) получим 1

00

nj

j

−

=δ =∑ и ( )

1 12

0 02 2 0

n nj j

j jj h

− −

= =δ + δ = <∑ ∑ , однако, так как 0 1 1... n−δ ≤ δ ≤ ≤ δ , то

1

00

nj

jj

−

=δ ≥∑ , по-

скольку 1 1

10 0

n nj n j

j jj j

− −

− −= =

δ ≥ δ∑ ∑ , а 1 1 1

10 0 0

( 1) 0n n n

j n j jj j j

j j n− − −

− −= = =

δ + δ = − δ =∑ ∑ ∑ . Таким образом, имеем

( )1 12

0 02 2 0

n nj j

j jh j

− −

= =δ = − δ <∑ ∑ , что невозможно.

Рассмотрим теперь уравнение (7). Сначала заметим, что в случае 1,0 0na − = уравнение (7) по-сле сокращения на 1r − имеет вид (8) с порядком меньшим на единицу, а значит также не может иметь 1n − различных целых неотрицательных корней, кроме трех случаев, соответствующих случаям 1)–3) для уравнения (8). Для этих случаев исходное уравнение (3) имеет вид

( )( )2( ) ( )1( ) ' ''' '' ( ) ( ''', '', ', , )V IVw A z w w w a z w S w w w w z= + + + ; (16)

( ) ( )2( )

1 2 3 42

5 6 7 8 9

( ) ' '' ( ) ''' ( ) ( ) '' ( ) '

( ) ' ( ) ' ( ) ( ) ( );

IVw A z w w a z w a z w a z w a z w

a z ww a z w a z w a z w a z

= + + + + +

+ + + + (17)

( )2 21 2 3 4 5 6''' ( ) ' ( ) '' ( ) ' ( ) ' ( ) ( ) ( )w A z w a z w a z ww a z w a z w a z w a z= + + + + + + , (18)

где S – квадратичная форма по w и его производным с локально аналитическими по z коэффици-ентами, суммарное количество производных в каждым члене которой не более трех.

Рассмотрим случай 1,0 0na − ≠ в предположении, что уравнение (7) имеет 1n − различных це-

лых неотрицательных корней, которые обозначим 1 2 10 ... nr r r −< < < < . Положим также 0 1r = − . На основании теоремы Виета получим

1

0 1

n nj

j jr j h

−

= == +∑ ∑ , (19)

где 1,0 0

0

( ).

( )na z

hf z−= Отсюда следует, что h – целое число. Вместе с тем имеем (1) ( 1) ( 1)!nR n h= − − .

Поскольку луч ( ;1]−∞ содержит единственный, причем некратный, корень 1r = − уравнения (7), то (2)R и ( )R −∞ должны иметь различные знаки, откуда 0h < . Положим 1j jr jδ = − − для

8

( )( )2( )

1 2 3 4

25 6 7

( ) '' ' ( ) ''' ( ) '' ( ) ' ( ) '

( ) ( ) ( ).

IVw A z ww w a z w a z w a z w w a z w

a z w a z w a z

= + + + + + +

+ + (13)

В случае 2) на основании (11) имеем ( )( )9 5 2 2( 1) ( 2) / 2 3 3 .h n n n= + + − + − = + С другой сто-роны, в силу (12) имеем 3( 1) / ( 2).h n n= + − Это возможно только при 3n = . Данному случаю соответствует исходное уравнение (4) вида

21 2 3 4 5''' ( ) ' ( ) '' ( ) ' ( ) ( ) ( )w A z ww a z w a z w a z w a z w a z= + + + + + . (14)

В случае 3) на основании (11) имеем ( )( )9 9 2 3( 1) / 2 6 3 .h n n= + + − = + С другой стороны, в силу (12) имеем 3( 2) / ( 1).h n n= + − Это возможно только при 2n = . Данному случаю соответ-ствует исходное уравнение (4) вида

21 2 3'' ( ) ( ) ' ( ) ( )w A z w a z w a z w a z= + + + . (15)

Если же 0h < , то полагая 2j jr jδ = − − для 0,1,..., 1j n= − на основании (9), (10) получим 1

00

nj

j

−

=δ =∑ и ( )

1 12

0 02 2 0

n nj j

j jj h

− −

= =δ + δ = <∑ ∑ , однако, так как 0 1 1... n−δ ≤ δ ≤ ≤ δ , то

1

00

nj

jj

−

=δ ≥∑ , по-

скольку 1 1

10 0

n nj n j

j jj j

− −

− −= =

δ ≥ δ∑ ∑ , а 1 1 1

10 0 0

( 1) 0n n n

j n j jj j j

j j n− − −

− −= = =

δ + δ = − δ =∑ ∑ ∑ . Таким образом, имеем

( )1 12

0 02 2 0

n nj j

j jh j

− −

= =δ = − δ <∑ ∑ , что невозможно.

Рассмотрим теперь уравнение (7). Сначала заметим, что в случае 1,0 0na − = уравнение (7) по-сле сокращения на 1r − имеет вид (8) с порядком меньшим на единицу, а значит также не может иметь 1n − различных целых неотрицательных корней, кроме трех случаев, соответствующих случаям 1)–3) для уравнения (8). Для этих случаев исходное уравнение (3) имеет вид

( )( )2( ) ( )1( ) ' ''' '' ( ) ( ''', '', ', , )V IVw A z w w w a z w S w w w w z= + + + ; (16)

( ) ( )2( )

1 2 3 42

5 6 7 8 9

( ) ' '' ( ) ''' ( ) ( ) '' ( ) '

( ) ' ( ) ' ( ) ( ) ( );

IVw A z w w a z w a z w a z w a z w

a z ww a z w a z w a z w a z

= + + + + +

+ + + + (17)

( )2 21 2 3 4 5 6''' ( ) ' ( ) '' ( ) ' ( ) ' ( ) ( ) ( )w A z w a z w a z ww a z w a z w a z w a z= + + + + + + , (18)

где S – квадратичная форма по w и его производным с локально аналитическими по z коэффици-ентами, суммарное количество производных в каждым члене которой не более трех.

Рассмотрим случай 1,0 0na − ≠ в предположении, что уравнение (7) имеет 1n − различных це-

лых неотрицательных корней, которые обозначим 1 2 10 ... nr r r −< < < < . Положим также 0 1r = − . На основании теоремы Виета получим

1

0 1

n nj

j jr j h

−

= == +∑ ∑ , (19)

где 1,0 0

0

( ).

( )na z

hf z−= Отсюда следует, что h – целое число. Вместе с тем имеем (1) ( 1) ( 1)!nR n h= − − .

Поскольку луч ( ;1]−∞ содержит единственный, причем некратный, корень 1r = − уравнения (7), то (2)R и ( )R −∞ должны иметь различные знаки, откуда 0h < . Положим 1j jr jδ = − − для

9

1,2,..., 1j n= − . Тогда 1 2 10 ... n−≤ δ ≤ δ ≤ ≤ δ и, с учетом (19), имеем неравенство 1 h− ≥ = 1 1

01 1

1 ( 1 ) 2n n

j jj j

r r j− −

= =− + − − = − + δ∑ ∑ , откуда возможны только следующие два случая:

1) 1 1 2 21, ... 0n n− −δ = δ = δ = = δ = ; 2) 1 2 1... 0n−δ = δ = = δ = .

При этом, с одной стороны, имеем 1

12

nj

jh

−

== − + δ∑ , а с другой стороны, ( 1) ( 1)!n n h− − =

( )1 1

1

1 1(1) (1 ( 1)) 1 (1 ) 2( 1) ( )

n nn

j jj j

R j j− −

−

= == − − − + + δ = − + δ∏ ∏ . В случае 1) получим 1h = − и 1( 1) ( 1)!n n−− − =

11 1

12( 1) ( ) 2( 1) ( 2)!

nn n

jj

j n n−

− −

=− + δ = − −∏ , откуда 1 2n n− = , что невозможно.

В случае 2) рассматриваемые условия 1

12

nj

jh

−

== − + δ∑ и ( 1) ( 1)! (1)n n h R− − = совместны. Этому

случаю соответствует исходное уравнение (3) вида

1

( ) 2 ( 1) ( ) ( ) ( ),

1 0( )( ) ( ) ( ) ( )

nn n k j jk j j

j k n jw A z w a z w w b z w c z

−−

+ < − == + + +∑ ∑ . (20)

Таким образом, нами доказана следующая Т е о р е м а 1. Если уравнение (1) обладает сильным свойством Пенлеве, то данное уравне-

ние принадлежит к одному из следующих семи видов: (13)–(18), (20). При этом лишь один из указанных семи видов допускает порядок 6n ≥ . Таким образом, имеем С л е д с т в и е. Если уравнение (1) порядка 6n ≥ обладает сильным свойством Пенлеве, то

данное уравнение имеет вид (20). Разумеется, теорема 1 дает лишь необходимые условия наличия сильного свойства Пенлеве

у уравнения (1). Для завершения Пенлеве-классификации квадратичных обыкновенных диффе-ренциальных уравнений вида (1) следует установить необходимые и достаточные условия нали-чия сильного свойства Пенлеве у указанных уравнений (13)–(18), (20).

Для уравнений (13)–(15), (17), (18) условия наличия свойства Пенлеве известны. Так, уравне-ние (13) соответствует классу F-I [10], уравнение (14) – классу Chazy Class XIII [11], уравнение (15) – случаю I(a) [1, с. 441–443], уравнение (17) – классу F-VII [12], уравнение (18) – классу Chazy Class I [11]. Для всех указанных уравнений при условии наличия свойства Пенлеве имеет место и сильное свойство Пенлеве. Уравнение (20) было исследовано в работе [9].

Т е о р е м а 2 [9]. Уравнение (20) обладает свойством Пенлеве тогда и только тогда, ко-гда замена переменного 2' ( ) ( )u w A z w B z w= − − , где ( )B z – некоторая локально аналитическая функция, сводит уравнение (20) к линейному дифференциальному уравнению относительно u.

Очевидно, что при выполнении условий теоремы 2, уравнение (20) обладает и сильным свой-ством Пенлеве. Отметим, что уравнение (20) при 2n = соответствует случаю I(b) [1, с. 443–445], при 3n = – классу Chazy Class II [11], а при 4n = – классу F-VII [12].

Наконец, несложно показать, что уравнение (16) обладает свойством Пенлеве тогда и только

тогда, когда существует замена переменных ( ) /12v A z w= − , ( )2 2''' 6( ') ( ) ' ( )u v v T z v v H z v= + − + − ,

где ( )2''( ) ( )T z T z= и ''( ) ( ) ( )H z T z H z= , сводящая исходное уравнение (16) к линейному обыкно-

венному дифференциальному уравнению второго порядка ( )2'' ( ) / 3 ( ) / 6u T z u H z= + .

9

1,2,..., 1j n= − . Тогда 1 2 10 ... n−≤ δ ≤ δ ≤ ≤ δ и, с учетом (19), имеем неравенство 1 h− ≥ = 1 1

01 1

1 ( 1 ) 2n n

j jj j

r r j− −

= =− + − − = − + δ∑ ∑ , откуда возможны только следующие два случая:

1) 1 1 2 21, ... 0n n− −δ = δ = δ = = δ = ; 2) 1 2 1... 0n−δ = δ = = δ = .

При этом, с одной стороны, имеем 1

12

nj

jh

−

== − + δ∑ , а с другой стороны, ( 1) ( 1)!n n h− − =

( )1 1

1

1 1(1) (1 ( 1)) 1 (1 ) 2( 1) ( )

n nn

j jj j

R j j− −

−

= == − − − + + δ = − + δ∏ ∏ . В случае 1) получим 1h = − и 1( 1) ( 1)!n n−− − =

11 1

12( 1) ( ) 2( 1) ( 2)!

nn n

jj

j n n−

− −

=− + δ = − −∏ , откуда 1 2n n− = , что невозможно.

В случае 2) рассматриваемые условия 1

12

nj

jh

−

== − + δ∑ и ( 1) ( 1)! (1)n n h R− − = совместны. Этому

случаю соответствует исходное уравнение (3) вида

1

( ) 2 ( 1) ( ) ( ) ( ),

1 0( )( ) ( ) ( ) ( )

nn n k j jk j j

j k n jw A z w a z w w b z w c z

−−

+ < − == + + +∑ ∑ . (20)

Таким образом, нами доказана следующая Т е о р е м а 1. Если уравнение (1) обладает сильным свойством Пенлеве, то данное уравне-

ние принадлежит к одному из следующих семи видов: (13)–(18), (20). При этом лишь один из указанных семи видов допускает порядок 6n ≥ . Таким образом, имеем С л е д с т в и е. Если уравнение (1) порядка 6n ≥ обладает сильным свойством Пенлеве, то

данное уравнение имеет вид (20). Разумеется, теорема 1 дает лишь необходимые условия наличия сильного свойства Пенлеве

у уравнения (1). Для завершения Пенлеве-классификации квадратичных обыкновенных диффе-ренциальных уравнений вида (1) следует установить необходимые и достаточные условия нали-чия сильного свойства Пенлеве у указанных уравнений (13)–(18), (20).

Для уравнений (13)–(15), (17), (18) условия наличия свойства Пенлеве известны. Так, уравне-ние (13) соответствует классу F-I [10], уравнение (14) – классу Chazy Class XIII [11], уравнение (15) – случаю I(a) [1, с. 441–443], уравнение (17) – классу F-VII [12], уравнение (18) – классу Chazy Class I [11]. Для всех указанных уравнений при условии наличия свойства Пенлеве имеет место и сильное свойство Пенлеве. Уравнение (20) было исследовано в работе [9].

Т е о р е м а 2 [9]. Уравнение (20) обладает свойством Пенлеве тогда и только тогда, ко-гда замена переменного 2' ( ) ( )u w A z w B z w= − − , где ( )B z – некоторая локально аналитическая функция, сводит уравнение (20) к линейному дифференциальному уравнению относительно u.

Очевидно, что при выполнении условий теоремы 2, уравнение (20) обладает и сильным свой-ством Пенлеве. Отметим, что уравнение (20) при 2n = соответствует случаю I(b) [1, с. 443–445], при 3n = – классу Chazy Class II [11], а при 4n = – классу F-VII [12].

Наконец, несложно показать, что уравнение (16) обладает свойством Пенлеве тогда и только

тогда, когда существует замена переменных ( ) /12v A z w= − , ( )2 2''' 6( ') ( ) ' ( )u v v T z v v H z v= + − + − ,

где ( )2''( ) ( )T z T z= и ''( ) ( ) ( )H z T z H z= , сводящая исходное уравнение (16) к линейному обыкно-

венному дифференциальному уравнению второго порядка ( )2'' ( ) / 3 ( ) / 6u T z u H z= + .

10

Литература

1. А й н с Э. Л. Обыкновенные дифференциальные уравнения. Харьков, 1939. – 719 c. 2. Г о л у б е в В. В. Лекции по аналитической теории обыкновенных дифференциальных уравнений. М.; Л.,

1950. – 436 c. 3. The Painleve property: one century later / Ed. R. Conte. New York; Berlin; Heidelburg, 1999. – 810 p. 4. K r u s k a l M., J o s h i N., H a l b u r d R. // Lecture Notes in Physics. 1997. Vol. 495. P. 171–205. 5. С о б о л е в с к и й С. Л. // Дифференц. уравнения. 2004. Т. 40, № 6. С. 756–762. 6. С о б о л е в с к и й С. Л. Подвижные особые точки решений обыкновенных дифференциальных уравнений.

Минск, 2006. – 120 с. 7. A b l o w i t z M. J., R a m a n i A., S e g u r H. // J. Math. Phys. 1980. Vol. 21. P. 715–721. 8. С о б о л е в с к и й С. Л. // Дифференц. уравнения. 2006. Т. 42, № 2. С. 202–212. 9. С о б о л е в с к и й С. Л. // Тр. XII Междунар. науч. конф. по дифференц. уравнениям «Еругинские чтения –

2007». Минск, 2007. С. 175–177. 10. C o s g r o v e C. M. // Stud. Appl. Math. 2000. Vol. 104. P. 1–66. 11. C o s g r o v e C. M. // Stud. Appl. Math. 2000. Vol. 104. P. 171–228. 12. C o s g r o v e C. M. // Stud. Appl. Math. 2006. Vol. 116. P. 321–413.

SOBOLEVSKY S. L.

[email protected]

PAINLEVE-CLASSIFICATION OF ORDINARY DIFFERENTIAL EQUATIONS OF ARBITRARY ORDER WITH QUADRATIC RIGHT-HAND SIDE

Summary

All ordinary differential equations in the complex domain of arbitrary order with quadratic in the dependent variable and its derivatives right-hand side possessing the strong Painlevé property have been found. The classification contains 7 classes of equations, only one of which allows the order six or higher.

10


1. А й н с Э. Л. Обыкновенные дифференциальные уравнения. Харьков, 1939. – 719 c. 2. Г о л у б е в В. В. Лекции по аналитической теории обыкновенных дифференциальных уравнений. М.; Л.,

1950. – 436 c. 3. The Painleve property: one century later / Ed. R. Conte. New York; Berlin; Heidelburg, 1999. – 810 p. 4. K r u s k a l M., J o s h i N., H a l b u r d R. // Lecture Notes in Physics. 1997. Vol. 495. P. 171–205. 5. С о б о л е в с к и й С. Л. // Дифференц. уравнения. 2004. Т. 40, № 6. С. 756–762. 6. С о б о л е в с к и й С. Л. Подвижные особые точки решений обыкновенных дифференциальных уравнений.

Минск, 2006. – 120 с. 7. A b l o w i t z M. J., R a m a n i A., S e g u r H. // J. Math. Phys. 1980. Vol. 21. P. 715–721. 8. С о б о л е в с к и й С. Л. // Дифференц. уравнения. 2006. Т. 42, № 2. С. 202–212. 9. С о б о л е в с к и й С. Л. // Тр. XII Междунар. науч. конф. по дифференц. уравнениям «Еругинские чтения –

2007». Минск, 2007. С. 175–177. 10. C o s g r o v e C. M. // Stud. Appl. Math. 2000. Vol. 104. P. 1–66. 11. C o s g r o v e C. M. // Stud. Appl. Math. 2000. Vol. 104. P. 171–228. 12. C o s g r o v e C. M. // Stud. Appl. Math. 2006. Vol. 116. P. 321–413.

SOBOLEVSKY S. L.

[email protected]

PAINLEVE-CLASSIFICATION OF ORDINARY DIFFERENTIAL EQUATIONS OF ARBITRARY ORDER WITH QUADRATIC RIGHT-HAND SIDE

Summary

All ordinary differential equations in the complex domain of arbitrary order with quadratic in the dependent variable and its derivatives right-hand side possessing the strong Painlevé property have been found. The classification contains 7 classes of equations, only one of which allows the order six or higher.

11



УДК 517.5

Е. А. РОВБА, Е. Г. МИКУЛИЧ

КОНСТАНТЫ В ПРИБЛИЖЕНИИ ФУНКЦИИ | |x ИНТЕРПОЛЯЦИОННЫМИ РАЦИОНАЛЬНЫМИ ПРОЦЕССАМИ

(Представлено академиком И. В. Гайшуном)

Гродненский государственный университет им. Я. Купалы Поступило 17.10.2008

Исследованию приближений элементарных функций, в частности функции | |x , посвящен ряд работ [1; 2]. В настоящем сообщении продолжено начатое в [3] изучение асимптотических свойств приближений функции | |x на отрезке [ 1;1]− посредством интерполяционных рацио-нальных функций с фиксированным числом геометрически различных полюсов.

Пусть 2 ( )nm x – рациональная дробь Чебышева–Маркова с полюсами в точках 11 / a ,

21 / a , …, 21 / na , которые удовлетворяют следующим условиям: 1) числа 1 2 2, ,..., na a a либо вещественные и | | 1ka < , либо попарно комплексно-сопряжены; 2) точки 1 2 2, ,..., na a a симметричны относительно мнимой оси. Через , 1,2,...,2 ,kx k n= обозначим нули функции 2 ( )nm x . Тогда соответствующая интерпо-

ляционная функция Лагранжа с узлами в точках 0x = и kx x= , 1,2,...,2 ,k n= имеет вид 2

22 '

1 2

( )( ) | |

( )( ( ))k

nn

n kk k n x x

xm xL x xx x xm x= =

=−

∑ .

Пусть 2nA есть множество точек 1 2 2( , ,..., )na a a a= , где числа ka , 1,2,...,2 ,k n= удовлетворяют указанным выше условиям. Полагаем 2 2( , ) | | ( , )n nx a x L x aε = − , 2 2 [ 1;1]( ) ( , )n n Ca x a −ε = ε .

Если q – произвольное натуральное число, 0 ,q n< < и 2 ,2n qA есть множество точек из 2nA ,

удовлетворяющих условию, что среди чисел 1 3 2 1, ,..., na a a − не более q различных и кратность

каждой точки не меньше nq⎡ ⎤⎢ ⎥⎣ ⎦

, 2 2 1k ka a −= , 1,2,...,k n= . Положим 2 ,2

2 ,2 2inf ( )n q

n q na Aa

∈ε = ε .

Из [3] вытекает, что 2

2 ,22 1lim 0(ln )

q

n qqn

nn −→∞

ε > .

В данной работе нам интересна точная константа в этой формуле. Имеет место Т е о р е м а. Для любого фиксированного натурального числа q и n →∞ справедливо следу-

ющее равенство: 2 2 1

22 ,22 1 2 1lim [( 1)!]

(ln ) 2

q q

n qq qn

n q qn

+

− −→∞ε = − , в частности, при 1q =

2

2 ,21lim

ln 2nn

nn→∞ε = .

Д о к а з а т е л ь с т в о теоремы проиллюстрируем на примере случая 1q = . Как следует из [3], в этом случае имеет место соотношение

1

2 2 20

4 ( )( )1 ( ) 1

n

n nf u duaf u u

ε =π + −∫ , (1)

11



УДК 517.5

Е. А. РОВБА, Е. Г. МИКУЛИЧ

КОНСТАНТЫ В ПРИБЛИЖЕНИИ ФУНКЦИИ | |x ИНТЕРПОЛЯЦИОННЫМИ РАЦИОНАЛЬНЫМИ ПРОЦЕССАМИ


Гродненский государственный университет им. Я. Купалы Поступило 17.10.2008

Исследованию приближений элементарных функций, в частности функции | |x , посвящен ряд работ [1; 2]. В настоящем сообщении продолжено начатое в [3] изучение асимптотических свойств приближений функции | |x на отрезке [ 1;1]− посредством интерполяционных рацио-нальных функций с фиксированным числом геометрически различных полюсов.

Пусть 2 ( )nm x – рациональная дробь Чебышева–Маркова с полюсами в точках 11 / a ,

21 / a , …, 21 / na , которые удовлетворяют следующим условиям: 1) числа 1 2 2, ,..., na a a либо вещественные и | | 1ka < , либо попарно комплексно-сопряжены; 2) точки 1 2 2, ,..., na a a симметричны относительно мнимой оси. Через , 1,2,...,2 ,kx k n= обозначим нули функции 2 ( )nm x . Тогда соответствующая интерпо-

ляционная функция Лагранжа с узлами в точках 0x = и kx x= , 1,2,...,2 ,k n= имеет вид 2

22 '

1 2

( )( ) | |

( )( ( ))k

nn

n kk k n x x

xm xL x xx x xm x= =

=−

∑ .

Пусть 2nA есть множество точек 1 2 2( , ,..., )na a a a= , где числа ka , 1,2,...,2 ,k n= удовлетворяют указанным выше условиям. Полагаем 2 2( , ) | | ( , )n nx a x L x aε = − , 2 2 [ 1;1]( ) ( , )n n Ca x a −ε = ε .

Если q – произвольное натуральное число, 0 ,q n< < и 2 ,2n qA есть множество точек из 2nA ,

удовлетворяющих условию, что среди чисел 1 3 2 1, ,..., na a a − не более q различных и кратность

каждой точки не меньше nq⎡ ⎤⎢ ⎥⎣ ⎦

, 2 2 1k ka a −= , 1,2,...,k n= . Положим 2 ,2

2 ,2 2inf ( )n q

n q na Aa

∈ε = ε .

Из [3] вытекает, что 2

2 ,22 1lim 0(ln )

q

n qqn

nn −→∞

ε > .

В данной работе нам интересна точная константа в этой формуле. Имеет место Т е о р е м а. Для любого фиксированного натурального числа q и n →∞ справедливо следу-

ющее равенство: 2 2 1

22 ,22 1 2 1lim [( 1)!]

(ln ) 2

q q

n qq qn

n q qn

+

− −→∞ε = − , в частности, при 1q =

2

2 ,21lim

ln 2nn

nn→∞ε = .

Д о к а з а т е л ь с т в о теоремы проиллюстрируем на примере случая 1q = . Как следует из [3], в этом случае имеет место соотношение

1

2 2 20

4 ( )( )1 ( ) 1

n

n nf u duaf u u

ε =π + −∫ , (1)

12

где ( ) a uf ua u−

=+

, 1 121 1

1 | |Im1 1 | |

a aaa a

+= =

− +, n – четное натуральное число. Последнее предполо-

жение считаем выполненным и в дальнейшем. Займемся изучением поведения интеграла ( )I n .

1

20( ) ( )

1n

duI n uu

= ϕ−

∫ , где 2( )( )

1 ( )

n

n nf uuf u

ϕ =+

.

Разобьем его на два интеграла

1 2( ) ( ) ( )I n I n I n= + ; (2)

1 20( ) ( )

1

a

nduI n u

u= ϕ

−∫ ,

1

2 2( ) ( )

1n

a

duI n uu

= ϕ−

∫ .

Для нахождения асимптотики интегралов 1( )I n , 2 ( )I n воспользуемся методом Лапласа [4].

Заметим, что (0) 1f = , 22'( )

( )af u

a u= −

+, 2'(0)f

a= − . Поэтому можем записать

( ) (0) ( )f u f u o u= − γ + , при 0u → , 2a

γ = .

С другой стороны, функцию ( )f u можно представить в виде

(1 ( ))( ) u uf u e−γ +ε= , где ( ) 0uε → , 0u → . (3)

Для дальнейшего доказательства нам необходима следующая Л е м м а 1. Асимптотика интеграла 1( )I n определяется поведением подынтегральной функ-

ции в сколь угодно малой окрестности точки 0, другими словами

1 2 20 0( ) ( ) ( )

1 1n n

du duI n u o uu u

β β⎛ ⎞= ϕ + ϕ⎜ ⎟⎜ ⎟− −⎝ ⎠∫ ∫ , n →∞ , (4)

для любого числа (0; )aβ∈ . Д о к а з а т е л ь с т в о. Пусть (0; )aβ∈ . Тогда

1 1 12 20( ) ( ) ( ) '( ) ''( ).

1 1

a

n ndu duI n u u I n I n

u u

β

β= ϕ + ϕ = +

− −∫ ∫ (5)

Зафиксируем произвольное 0ε > , выберем α такое, что ( )f e−εα > . Не ограничивая общности будем считать, что (0; )α∈ β . Учитывая свойства функции nϕ , получим

1 22 2 2 20 0 0 0

1'( ) ( ) ( )211 1 1 1

nn

n n ndu du e du duI n u e

eu u u u

− εα α α α− ε

− ε> ϕ ≥ ϕ α ≥ ≥+− − − −

∫ ∫ ∫ ∫ .

Кроме того, очевидно

1 2 20 0

1'( ) ( ) 121 1

ndu duI n u

u u

α α= ϕ < <

− −∫ ∫ .

Поэтому для интеграла 1 '( )I n справедлива оценка 11 1| ln '( ) | 2I n On n

⎛ ⎞≤ ε + < ε⎜ ⎟⎝ ⎠

, при достаточ-

но больших n. Или, что то же самое,

12

где ( ) a uf ua u−

=+

, 1 121 1

1 | |Im1 1 | |

a aaa a

+= =

− +, n – четное натуральное число. Последнее предполо-

жение считаем выполненным и в дальнейшем. Займемся изучением поведения интеграла ( )I n .

1

20( ) ( )

1n

duI n uu

= ϕ−

∫ , где 2( )( )

1 ( )

n

n nf uuf u

ϕ =+

.

Разобьем его на два интеграла

1 2( ) ( ) ( )I n I n I n= + ; (2)

1 20( ) ( )

1

a

nduI n u

u= ϕ

−∫ ,

1

2 2( ) ( )

1n

a

duI n uu

= ϕ−

∫ .

Для нахождения асимптотики интегралов 1( )I n , 2 ( )I n воспользуемся методом Лапласа [4].

Заметим, что (0) 1f = , 22'( )

( )af u

a u= −

+, 2'(0)f

a= − . Поэтому можем записать

( ) (0) ( )f u f u o u= − γ + , при 0u → , 2a

γ = .

С другой стороны, функцию ( )f u можно представить в виде

(1 ( ))( ) u uf u e−γ +ε= , где ( ) 0uε → , 0u → . (3)

Для дальнейшего доказательства нам необходима следующая Л е м м а 1. Асимптотика интеграла 1( )I n определяется поведением подынтегральной функ-

ции в сколь угодно малой окрестности точки 0, другими словами

1 2 20 0( ) ( ) ( )

1 1n n

du duI n u o uu u

β β⎛ ⎞= ϕ + ϕ⎜ ⎟⎜ ⎟− −⎝ ⎠∫ ∫ , n →∞ , (4)

для любого числа (0; )aβ∈ . Д о к а з а т е л ь с т в о. Пусть (0; )aβ∈ . Тогда

1 1 12 20( ) ( ) ( ) '( ) ''( ).

1 1

a

n ndu duI n u u I n I n

u u

β

β= ϕ + ϕ = +

− −∫ ∫ (5)

Зафиксируем произвольное 0ε > , выберем α такое, что ( )f e−εα > . Не ограничивая общности будем считать, что (0; )α∈ β . Учитывая свойства функции nϕ , получим

1 22 2 2 20 0 0 0

1'( ) ( ) ( )211 1 1 1

nn

n n ndu du e du duI n u e

eu u u u

− εα α α α− ε

− ε> ϕ ≥ ϕ α ≥ ≥+− − − −

∫ ∫ ∫ ∫ .

Кроме того, очевидно

1 2 20 0

1'( ) ( ) 121 1

ndu duI n u

u u

α α= ϕ < <

− −∫ ∫ .

Поэтому для интеграла 1 '( )I n справедлива оценка 11 1| ln '( ) | 2I n On n

⎛ ⎞≤ ε + < ε⎜ ⎟⎝ ⎠

, при достаточ-

но больших n. Или, что то же самое,

13

1ln '( ) ( )I n o n= , n →∞ . (6)

С другой стороны, 1 2 2''( ) ( )

1 1

na a

ndu a duI n

au uβ β

⎛ ⎞−β≤ ϕ β ≤ ⎜ ⎟+ β⎝ ⎠− −

∫ ∫ , т. е.

1| ln ''( ) | ( )I n O n= , n →∞ . (7)

Подставив (6) и (7) в (5), получим (4). Лемма 1 доказана. Л е м м а 2. Справедливо соотношение

1( )8 8

a aI n on nπ π⎛ ⎞= + ⎜ ⎟

⎝ ⎠, n →∞ .

Д о к а з а т е л ь с т в о. Рассмотрим вначале интеграл 1 2 20( )

1 1

n x

n xe dxJ ne x

− γ∞

− γ=+ −

∫ .

Так как 2

1 1 ( )1

O xx

− =−

, 0x → , то

1 2 2 2 2 20 0 0

1 1( )1 1 ( ) 1

n x n x x

n x n x xe e x e xJ n dx O dx O dx Oe e n e n

− γ − γ −∞ ∞ ∞

− γ − γ −

⎛ ⎞ ⎛ ⎞ ⎛ ⎞− = = =⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟+ + γ + ⎝ ⎠⎝ ⎠ ⎝ ⎠∫ ∫ ∫ , n →∞ ,

и поэтому 1 2 20

1 1( )81

n x

n xe aJ n dx O o

n ne n

− γ∞

− γπ⎛ ⎞ ⎛ ⎞= + = +⎜ ⎟ ⎜ ⎟+ ⎝ ⎠ ⎝ ⎠

∫ , n →∞ .

Теперь для доказательства леммы 2 достаточно показать справедливость соотношения

1 11( ) ( )I n J n on

⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ . (8)

Для этого найдем такое (0; )aβ∈ , что

1 11( ) ( )I n J n onβ β

⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ , (9)

где

1 20( ) ( )

1n

dxI n xx

β

β = ϕ−

∫ , 1 2 20( )

1 1

n x

n xe dxJ ne x

− γβ

β − γ=+ −

∫ .

Возьмем число β столь малым, что 1( )2

xε ≥ − (см. (3)). Тогда,

/2( ) xf x e−γ≤ , (0; )x∈ β . (10)

Пусть 1( )nn

α = . Ясно, что

1 1 2 2 20

( )

1 22 2 2 22 20 ( )

( )| ( ) ( ) |1 ( ) 1 1

( ) ( ) ( ) ( ).1 ( ) 1 1 ( ) 11 1

n n x

n n x

n n x n n xn

n n x n n xn

f x e dxI n J nf x e x

f x e dx f x e dx A n A nf x e f x ex x

− γβ

β β − γ

− γ − γα β

− γ − γα

− ≤ − =+ + −

− + − = ++ + + +− −

∫

∫ ∫

(11)

13

1ln '( ) ( )I n o n= , n →∞ . (6)

С другой стороны, 1 2 2''( ) ( )

1 1

na a

ndu a duI n

au uβ β

⎛ ⎞−β≤ ϕ β ≤ ⎜ ⎟+ β⎝ ⎠− −

∫ ∫ , т. е.

1| ln ''( ) | ( )I n O n= , n →∞ . (7)

Подставив (6) и (7) в (5), получим (4). Лемма 1 доказана. Л е м м а 2. Справедливо соотношение

1( )8 8

a aI n on nπ π⎛ ⎞= + ⎜ ⎟

⎝ ⎠, n →∞ .

Д о к а з а т е л ь с т в о. Рассмотрим вначале интеграл 1 2 20( )

1 1

n x

n xe dxJ ne x

− γ∞

− γ=+ −

∫ .

Так как 2

1 1 ( )1

O xx

− =−

, 0x → , то

1 2 2 2 2 20 0 0

1 1( )1 1 ( ) 1

n x n x x

n x n x xe e x e xJ n dx O dx O dx Oe e n e n

− γ − γ −∞ ∞ ∞

− γ − γ −

⎛ ⎞ ⎛ ⎞ ⎛ ⎞− = = =⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟+ + γ + ⎝ ⎠⎝ ⎠ ⎝ ⎠∫ ∫ ∫ , n →∞ ,

и поэтому 1 2 20

1 1( )81

n x

n xe aJ n dx O o

n ne n

− γ∞

− γπ⎛ ⎞ ⎛ ⎞= + = +⎜ ⎟ ⎜ ⎟+ ⎝ ⎠ ⎝ ⎠

∫ , n →∞ .

Теперь для доказательства леммы 2 достаточно показать справедливость соотношения

1 11( ) ( )I n J n on

⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ . (8)

Для этого найдем такое (0; )aβ∈ , что

1 11( ) ( )I n J n onβ β

⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ , (9)

где

1 20( ) ( )

1n

dxI n xx

β

β = ϕ−

∫ , 1 2 20( )

1 1

n x

n xe dxJ ne x

− γβ

β − γ=+ −

∫ .

Возьмем число β столь малым, что 1( )2

xε ≥ − (см. (3)). Тогда,

/2( ) xf x e−γ≤ , (0; )x∈ β . (10)

Пусть 1( )nn

α = . Ясно, что

1 1 2 2 20

( )

1 22 2 2 22 20 ( )

( )| ( ) ( ) |1 ( ) 1 1

( ) ( ) ( ) ( ).1 ( ) 1 1 ( ) 11 1

n n x

n n x

n n x n n xn

n n x n n xn

f x e dxI n J nf x e x

f x e dx f x e dx A n A nf x e f x ex x

− γβ

β β − γ

− γ − γα β

− γ − γα

− ≤ − =+ + −

− + − = ++ + + +− −

∫

∫ ∫

(11)

14

Используя (5), получим /2 /2 /2

2 2 2 2 2( ) ( ) ( )

2( ) 21 1 1 11 1 1

n x n x n x x

n x n x n x xn n n n

e e dx e dx e dxA nne e e ex x x

− γ − γ − γ −γ∞ ∞ ∞

− γ − γ − γ −γα α α

⎛ ⎞≤ + ≤ =⎜ ⎟⎜ ⎟+ + + +⎝ ⎠ − − −

∫ ∫ ∫ .

Поскольку ( )n nα → +∞ , n →∞ ,

21( )A n on

⎛ ⎞= ⎜ ⎟⎝ ⎠

, n →∞ . (12)

В свою очередь, пользуясь неравенством

2 2 | | ( )1 1

x yx y

x ye e x y e ee e

− ≤ − ++ +

, ,x y∈R

и (10), замечаем, что

2 2 /2( ) | ( ) || ( ) | ( ( ) ) 2

1 ( ) 1

n n xn n x

n n x n xf x e x xnx x f x e nf x e e

− γ− γ

− γ γε

− ≤ γ ε + ≤ γ+ +

.

Поэтому ( )

11 /2 20 ( ) 0 ( )0( ) 2 sup | ( ) | sup | ( ) |

1

n

nxx n x n

CxdxA n n x xne x

α

γ< <α < <α≤ γ ε ≤ ε

−∫ , где 1C – абсолютная кон-

станта, не зависящая от n (здесь и в дальнейшем через 1 2, ,...C C будем обозначать положитель-ные постоянные, не зависящие от n).

В силу выбора ( )nα0 ( )

sup | ( ) | 0x n

x< <α

ε → , n →∞ .

Значит, 1( ) (1 / )A n o n= , n →∞ . (13)

Таким образом, справедливость (9) следует из (11), (12) и (13).

Для доказательства (8) осталось применить лемму 1, (9) и тот факт, что 11( )J nnβ

∪∩

.

Лемма 2 доказана. Аналогичным образом можно найти асимптотику 2 ( )I n , а именно справедлива Л е м м а 3. Имеет место соотношение

22

1 1 1( )1 1

n nC a aI n oa aan an

⎛ ⎞− −⎛ ⎞ ⎛ ⎞= + ⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟+ +⎝ ⎠ ⎝ ⎠⎝ ⎠, n →∞ .

Вернемся к доказательству теоремы. Из (2), лемм 2 и 3 следует, что

2 1 1 1( )8 1 8 1

n nCa a a aI n on a n aan an

⎛ ⎞π − π −⎛ ⎞ ⎛ ⎞= + + ⎜ + ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟+ +⎝ ⎠ ⎝ ⎠⎝ ⎠, n →∞ .

По формуле Тейлора 3 53

1 2ln 21 3

a a a C aa

−= − − +

+ для некоторого 3 0C > . Поэтому

3 53

2231

1

n an na C naa ea

− − +−⎛ ⎞ =⎜ ⎟+⎝ ⎠. Итак

3 5 3 53 3

2 22 23 3

2( )8 8

an na C na an na C naa e a eI n C on nan an

− − + − − +⎛ ⎞⎜ ⎟π π

= + + +⎜ ⎟⎜ ⎟⎝ ⎠

, n →∞ . (14)

14

Используя (5), получим /2 /2 /2

2 2 2 2 2( ) ( ) ( )

2( ) 21 1 1 11 1 1

n x n x n x x

n x n x n x xn n n n

e e dx e dx e dxA nne e e ex x x

− γ − γ − γ −γ∞ ∞ ∞

− γ − γ − γ −γα α α

⎛ ⎞≤ + ≤ =⎜ ⎟⎜ ⎟+ + + +⎝ ⎠ − − −

∫ ∫ ∫ .

Поскольку ( )n nα → +∞ , n →∞ ,

21( )A n on

⎛ ⎞= ⎜ ⎟⎝ ⎠

, n →∞ . (12)

В свою очередь, пользуясь неравенством

2 2 | | ( )1 1

x yx y

x ye e x y e ee e

− ≤ − ++ +

, ,x y∈R

и (10), замечаем, что

2 2 /2( ) | ( ) || ( ) | ( ( ) ) 2

1 ( ) 1

n n xn n x

n n x n xf x e x xnx x f x e nf x e e

− γ− γ

− γ γε

− ≤ γ ε + ≤ γ+ +

.

Поэтому ( )

11 /2 20 ( ) 0 ( )0( ) 2 sup | ( ) | sup | ( ) |

1

n

nxx n x n

CxdxA n n x xne x

α

γ< <α < <α≤ γ ε ≤ ε

−∫ , где 1C – абсолютная кон-

станта, не зависящая от n (здесь и в дальнейшем через 1 2, ,...C C будем обозначать положитель-ные постоянные, не зависящие от n).

В силу выбора ( )nα0 ( )

sup | ( ) | 0x n

x< <α

ε → , n →∞ .

Значит, 1( ) (1 / )A n o n= , n →∞ . (13)

Таким образом, справедливость (9) следует из (11), (12) и (13).

Для доказательства (8) осталось применить лемму 1, (9) и тот факт, что 11( )J nnβ

∪∩

.

Лемма 2 доказана. Аналогичным образом можно найти асимптотику 2 ( )I n , а именно справедлива Л е м м а 3. Имеет место соотношение

22

1 1 1( )1 1

n nC a aI n oa aan an

⎛ ⎞− −⎛ ⎞ ⎛ ⎞= + ⎜ ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟+ +⎝ ⎠ ⎝ ⎠⎝ ⎠, n →∞ .

Вернемся к доказательству теоремы. Из (2), лемм 2 и 3 следует, что

2 1 1 1( )8 1 8 1

n nCa a a aI n on a n aan an

⎛ ⎞π − π −⎛ ⎞ ⎛ ⎞= + + ⎜ + ⎟⎜ ⎟ ⎜ ⎟⎜ ⎟+ +⎝ ⎠ ⎝ ⎠⎝ ⎠, n →∞ .

По формуле Тейлора 3 53

1 2ln 21 3

a a a C aa

−= − − +

+ для некоторого 3 0C > . Поэтому

3 53

2231

1

n an na C naa ea

− − +−⎛ ⎞ =⎜ ⎟+⎝ ⎠. Итак

3 5 3 53 3

2 22 23 3

2( )8 8

an na C na an na C naa e a eI n C on nan an

− − + − − +⎛ ⎞⎜ ⎟π π

= + + +⎜ ⎟⎜ ⎟⎝ ⎠

, n →∞ . (14)

15

Полагая t na= , найдем 1

inf ( )t

f t≥

, где

3 2 5 43

22 / /3

22( )8

t t n C t nt ef t C

tn

− − +π

= + .

Теперь заметим, что

22 2 3 2 5 43

ln 1(ln )28 ln exp ln / ln /3

nf n Cn n n n n C n n

π= +

⎛ ⎞+⎜ ⎟⎝ ⎠

.

Зафиксируем 0δ > . С одной стороны, при (1 ) lnt n+δ= + δ и достаточно большом n

4 2(1 ) ln( ) (ln )nf t C f n

n+δ

+ δ> > . (15)

С другой стороны, при (1 ) lnt n−δ= − δ

( )3 2 5 4 2 2 3 3 22 4 / / 2 2 3 22 22

2exp (1 ) ln / exp ln /3ln ln

t t n O t n C n n n C n n nC et n n

− − −δ δ δ

−

⎛ ⎞ − + δ− − + ⎜ ⎟ − + δ⎝ ⎠

δ

⎛ ⎞− − δ⎜ ⎟⎝ ⎠> ≥ , n →∞ ,

а

( )2 2 3 2exp ln /(ln )

ln

n n nf n o

n

− + δ⎛ ⎞⎜ ⎟=⎜ ⎟⎝ ⎠

, n →∞ .

Значит, при достаточно большом n ( ) (ln )f t f n−δ

> . (16)

Из (15) и (16) следует, что 2

32 /

22 2 21 1

ln lninf ( ) inf (ln )8 8 8

t C t n

t t

t e n nf t C f n otn n n

− −

≥ ≥

⎛ ⎞π π π⎛ ⎞⎜ ⎟= + = = + ⎜ ⎟⎜ ⎟ ⎝ ⎠⎝ ⎠, n →∞ .

Подставляя полученный результат в (14), получим 2 2[0;1)

ln lninf ( )8 8

n nI n on nα∈

π π⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ .

Принимая во внимание (1), окончательно заключаем 2 2 21 ln ln( )2n

n na on n

⎛ ⎞ε = + ⎜ ⎟⎝ ⎠

, n →∞ .

Литература 1. Ш т а л ь Г. // Математ. сб. 1992. № 1. С. 85–118. 2. P e k a r s k i i A. A. // East J. on Approximation. 2007. Vol. 13(3). P. 227–319; Corrigendum ibidem. 2007. Vol. 13(4). 3. Р о в б а Е. А. // Вести АН БССР. 1989. № 5. С. 39–46. 4. Е в г р а ф о в М. А. Асимптотические оценки и целые функции. М., 1979. – 320 с.

ROVBA E. А., MIKULICH E. G.

[email protected]

CONSTANTS IN THE APPROXIMATION OF |x| USING THE RATIONAL INTERPOLATION PROCESSES

Summary Rational interpolation processes for |x| on [–1;1] and the behavior of their uniform approximations are investigated.

Previously in 1989, in the articles by Rovba E.A. the similar approximation formulas were already investigated. In the present article we find exact constants in the above-mentioned approximation formulas. In order to find exact constants in the asymptotical behavior of uniform approximations Laplace’s method was used.

15

Полагая t na= , найдем 1

inf ( )t

f t≥

, где

3 2 5 43

22 / /3

22( )8

t t n C t nt ef t C

tn

− − +π

= + .

Теперь заметим, что

22 2 3 2 5 43

ln 1(ln )28 ln exp ln / ln /3

nf n Cn n n n n C n n

π= +

⎛ ⎞+⎜ ⎟⎝ ⎠

.

Зафиксируем 0δ > . С одной стороны, при (1 ) lnt n+δ= + δ и достаточно большом n

4 2(1 ) ln( ) (ln )nf t C f n

n+δ

+ δ> > . (15)

С другой стороны, при (1 ) lnt n−δ= − δ

( )3 2 5 4 2 2 3 3 22 4 / / 2 2 3 22 22

2exp (1 ) ln / exp ln /3ln ln

t t n O t n C n n n C n n nC et n n

− − −δ δ δ

−

⎛ ⎞ − + δ− − + ⎜ ⎟ − + δ⎝ ⎠

δ

⎛ ⎞− − δ⎜ ⎟⎝ ⎠> ≥ , n →∞ ,

а

( )2 2 3 2exp ln /(ln )

ln

n n nf n o

n

− + δ⎛ ⎞⎜ ⎟=⎜ ⎟⎝ ⎠

, n →∞ .

Значит, при достаточно большом n ( ) (ln )f t f n−δ

> . (16)

Из (15) и (16) следует, что 2

32 /

22 2 21 1

ln lninf ( ) inf (ln )8 8 8

t C t n

t t

t e n nf t C f n otn n n

− −

≥ ≥

⎛ ⎞π π π⎛ ⎞⎜ ⎟= + = = + ⎜ ⎟⎜ ⎟ ⎝ ⎠⎝ ⎠, n →∞ .

Подставляя полученный результат в (14), получим 2 2[0;1)

ln lninf ( )8 8

n nI n on nα∈

π π⎛ ⎞= + ⎜ ⎟⎝ ⎠

, n →∞ .

Принимая во внимание (1), окончательно заключаем 2 2 21 ln ln( )2n

n na on n

⎛ ⎞ε = + ⎜ ⎟⎝ ⎠

, n →∞ .

Литература 1. Ш т а л ь Г. // Математ. сб. 1992. № 1. С. 85–118. 2. P e k a r s k i i A. A. // East J. on Approximation. 2007. Vol. 13(3). P. 227–319; Corrigendum ibidem. 2007. Vol. 13(4). 3. Р о в б а Е. А. // Вести АН БССР. 1989. № 5. С. 39–46. 4. Е в г р а ф о в М. А. Асимптотические оценки и целые функции. М., 1979. – 320 с.

ROVBA E. А., MIKULICH E. G.

[email protected]

CONSTANTS IN THE APPROXIMATION OF |x| USING THE RATIONAL INTERPOLATION PROCESSES

Summary Rational interpolation processes for |x| on [–1;1] and the behavior of their uniform approximations are investigated.

Previously in 1989, in the articles by Rovba E.A. the similar approximation formulas were already investigated. In the present article we find exact constants in the above-mentioned approximation formulas. In order to find exact constants in the asymptotical behavior of uniform approximations Laplace’s method was used.

16



УДК 517.977

А. И. АСТРОВСКИЙ

ПРЕОБРАЗОВАНИЕ ЛИНЕЙНЫХ НЕСТАЦИОНАРНЫХ СИСТЕМ НАБЛЮДЕНИЯ СО СКАЛЯРНЫМ ВЫХОДОМ

К КАНОНИЧЕСКИМ ФОРМАМ ФРОБЕНИУСА


Белорусский государственный экономический университет, Минск Поступило 17.11.2008

Как известно, вопрос о преобразовании линейной нестационарной системы наблюдения (управления) к канонической форме Фробениуса при помощи подходящей группы преобра- зований играет важную роль при исследовании ряда задач математической теории управления. В [1−4] для линейной нестационарной группы G класса C1 выделено множество 0

nR − равно-

мерно наблюдаемых систем с гладкими полными инвариантами, для элементов которого предложен конструктивный способ построения канонических форм Фробениуса. В [4; 5] для линейных систем управления класса n c определенными условиями на гладкость полных инвариантов предложена общая схема построения канонических систем управления в форме Фробениуса относительно различных групп преобразований. В указанных работах приведены примеры, показывающие, что формы Фробениуса существуют и для более широкого множества систем, чем совокупность 0

nR . Заметим, что множество 0nR включает в себя известные в лите-

ратуре классы систем [6−9], для которых были построены канонические формы Фробениуса. В [10] для систем управления класса n получены необходимые и достаточные условия существования форм Фробениуса.

В данной работе, продолжающей исследования [11; 14], для линейных нестационарных систем наблюдения со скалярным выходом получены необходимые и достаточные условия возможности преобразования их к системам наблюдения в формах Хессенберга и Фробениуса.

1. Основные соотношения. Рассмотрим на отрезке 0 1[ , ]T t t= линейную нестационарную систему наблюдения со скалярным выходом

( ) ( ) ( ), ( ) ( ) ( ), ,x t A t x t y t c t x t t T= = ∈ (1)

где ( )x t − n-вектор-столбец состояния системы (1) в момент t; ( )n n× -матрица ( )A t и n-вектор строка ( )c t непрерывны на T.

Отождествим систему (1) с парой ( , )A c . Множество всех таких пар с непрерывными на T компонентами обозначим через Σ .

В математической теории систем важную роль играют канонические формы Фробениуса 0 0( , )A c , где 0

, 1 1 , 1( ) ( ( ))ni j n j i i jA t t+ − == δ + δ α и 0 (0 ... 0 1)c = . Здесь i jδ − символ Кронекера,

а функции ( , )i C T Rα ∈ , (0,1,..., 1)i n∈ − . Совокупность всех пар 0 0( , )A c в форме Фробениуса с непрерывными на T функциями 0 1 1( ), ( ),..., ( )nt t t−α α α обозначим через K. Важность таких систем объясняется тем, что они имеют достаточно простое строение и для них сравнительно легко решается ряд задач математической теории управления.

16



УДК 517.977

А. И. АСТРОВСКИЙ

ПРЕОБРАЗОВАНИЕ ЛИНЕЙНЫХ НЕСТАЦИОНАРНЫХ СИСТЕМ НАБЛЮДЕНИЯ СО СКАЛЯРНЫМ ВЫХОДОМ

К КАНОНИЧЕСКИМ ФОРМАМ ФРОБЕНИУСА


Белорусский государственный экономический университет, Минск Поступило 17.11.2008

Как известно, вопрос о преобразовании линейной нестационарной системы наблюдения (управления) к канонической форме Фробениуса при помощи подходящей группы преобра- зований играет важную роль при исследовании ряда задач математической теории управления. В [1−4] для линейной нестационарной группы G класса C1 выделено множество 0

nR − равно-

мерно наблюдаемых систем с гладкими полными инвариантами, для элементов которого предложен конструктивный способ построения канонических форм Фробениуса. В [4; 5] для линейных систем управления класса n c определенными условиями на гладкость полных инвариантов предложена общая схема построения канонических систем управления в форме Фробениуса относительно различных групп преобразований. В указанных работах приведены примеры, показывающие, что формы Фробениуса существуют и для более широкого множества систем, чем совокупность 0

nR . Заметим, что множество 0nR включает в себя известные в лите-

ратуре классы систем [6−9], для которых были построены канонические формы Фробениуса. В [10] для систем управления класса n получены необходимые и достаточные условия существования форм Фробениуса.

В данной работе, продолжающей исследования [11; 14], для линейных нестационарных систем наблюдения со скалярным выходом получены необходимые и достаточные условия возможности преобразования их к системам наблюдения в формах Хессенберга и Фробениуса.

1. Основные соотношения. Рассмотрим на отрезке 0 1[ , ]T t t= линейную нестационарную систему наблюдения со скалярным выходом

( ) ( ) ( ), ( ) ( ) ( ), ,x t A t x t y t c t x t t T= = ∈ (1)

где ( )x t − n-вектор-столбец состояния системы (1) в момент t; ( )n n× -матрица ( )A t и n-вектор строка ( )c t непрерывны на T.

Отождествим систему (1) с парой ( , )A c . Множество всех таких пар с непрерывными на T компонентами обозначим через Σ .

В математической теории систем важную роль играют канонические формы Фробениуса 0 0( , )A c , где 0

, 1 1 , 1( ) ( ( ))ni j n j i i jA t t+ − == δ + δ α и 0 (0 ... 0 1)c = . Здесь i jδ − символ Кронекера,

а функции ( , )i C T Rα ∈ , (0,1,..., 1)i n∈ − . Совокупность всех пар 0 0( , )A c в форме Фробениуса с непрерывными на T функциями 0 1 1( ), ( ),..., ( )nt t t−α α α обозначим через K. Важность таких систем объясняется тем, что они имеют достаточно простое строение и для них сравнительно легко решается ряд задач математической теории управления.

17

Пусть G − группа всех невырожденных при каждом t T∈ квадратных ( )n n× -матриц ( )G t ,

принадлежащих 1( , )n nC T R × . Действие группы G на паре ( , )A c из Σ зададим стандартным образом

1 1*( , ) ( , ), .G A c G AG G G cG G− −= − ∈G (2)

Символом ( , )O A c будем обозначать орбиту системы ( , )A c ∈Σ относительно действия группы G . Несложно заметить, что если в орбите ( , )O A c системы ( , )A c ∈Σ существует пара

0 0( , )A c в форме Фробениуса, то она единственна. Следовательно, единственно и преобразо- вание G∈G , для которого 0 0* ( , ) ( , )G A c A c= .

Анализ соотношения (2) показывает, что для приведения пары ( , )A c к канонической системе 0 0( , )A c с помощью группы G необходимо выполнение условий

1( , ) и ( ) 0, .nc C T R c t t T∈ ≠ ∈ (3)

Далее считаем их выполненными. Подчеркнем, что известные в литературе способы построения канонических форм Фробе-

ниуса основывались на использовании так называемой матрицы наблюдаемости ( )S t [4; 13], которая, как показано в [1–4], существует только для систем класса 1n − . Результаты данной работы основываются на представлении матрицы преобразования ( )G t в виде произведения ортогональной и верхнетреугольной матриц, что позволило разработать способ построения канонических форм Фробениуса без использования матриц ( )S t . Указанное обстоятельство расширяет класс систем ( , )A c , для которых возможно построение канонических форм Фро- бениуса.

Таким образом, далее существенную роль играет представление [12] невырожденной ( )n n× -матрицы ( )G t в виде произведения ортогональной матрицы ( )oG t на верхнетреугольную матрицу ( )G tΔ

( ) ( ) ( ), ,oG t G t G t t TΔ= ∈

где o nG ∈OL и GΔ Δ∈G , а ΔG и nOL – подгруппы группы G , состоящие соответственно из всех верхнетреугольных и ортогональных при каждом t T∈ матриц.

2. Верхняя форма Хессенберга. Изучим вначале действие верхнетреугольных матриц GΔ из

ΔG на системы наблюдения 0 0( , )A c в канонической форме Фробениуса. Анализ выражений

0 1 1 0 1,G A G G G c G− − −Δ Δ Δ Δ Δ+ (4)

показывает, что отображение 0 0 0 0( , ) * ( , )A c G A cΔ→ приводит к системам наблюдения *( , )H c с n-вектор функциями *

10( ) (0 ... 0 ( ))c t r t= и матрицами , 1( ) ( ( ))ni j i jH t r t == в верхней форме

Хессенберга, т. е. ( ) 0i jr t ≡ , ,t T∈ для 1i j> + , , (1,2,..., )i j n∈ , при этом функции ( )i jr t обладают дополнительными свойствами, указанными в следующей лемме.

Л е м м а 1. Каждая система 0 0* ( , )G A cΔ , ,GΔ Δ∈G имеет форму Хессенберга *( , )H c , при этом выполняются условия

11, 1,( , ), ( ) 0, , (0,1,..., 1).i i i ir C T R r t t T i n+ +∈ ≠ ∈ ∈ − (5)

Таким образом, наличие в множестве ( , )O A c верхней формы Хессенберга со свойством (5) необходимо для существования канонической формы Фробениуса для пары ( , )A c . Однако обратное, вообще говоря, не верно.

17

Пусть G − группа всех невырожденных при каждом t T∈ квадратных ( )n n× -матриц ( )G t ,

принадлежащих 1( , )n nC T R × . Действие группы G на паре ( , )A c из Σ зададим стандартным образом

1 1*( , ) ( , ), .G A c G AG G G cG G− −= − ∈G (2)

Символом ( , )O A c будем обозначать орбиту системы ( , )A c ∈Σ относительно действия группы G . Несложно заметить, что если в орбите ( , )O A c системы ( , )A c ∈Σ существует пара

0 0( , )A c в форме Фробениуса, то она единственна. Следовательно, единственно и преобразо- вание G∈G , для которого 0 0* ( , ) ( , )G A c A c= .

Анализ соотношения (2) показывает, что для приведения пары ( , )A c к канонической системе 0 0( , )A c с помощью группы G необходимо выполнение условий

1( , ) и ( ) 0, .nc C T R c t t T∈ ≠ ∈ (3)

Далее считаем их выполненными. Подчеркнем, что известные в литературе способы построения канонических форм Фробе-

ниуса основывались на использовании так называемой матрицы наблюдаемости ( )S t [4; 13], которая, как показано в [1–4], существует только для систем класса 1n − . Результаты данной работы основываются на представлении матрицы преобразования ( )G t в виде произведения ортогональной и верхнетреугольной матриц, что позволило разработать способ построения канонических форм Фробениуса без использования матриц ( )S t . Указанное обстоятельство расширяет класс систем ( , )A c , для которых возможно построение канонических форм Фро- бениуса.

Таким образом, далее существенную роль играет представление [12] невырожденной ( )n n× -матрицы ( )G t в виде произведения ортогональной матрицы ( )oG t на верхнетреугольную матрицу ( )G tΔ

( ) ( ) ( ), ,oG t G t G t t TΔ= ∈

где o nG ∈OL и GΔ Δ∈G , а ΔG и nOL – подгруппы группы G , состоящие соответственно из всех верхнетреугольных и ортогональных при каждом t T∈ матриц.

2. Верхняя форма Хессенберга. Изучим вначале действие верхнетреугольных матриц GΔ из

ΔG на системы наблюдения 0 0( , )A c в канонической форме Фробениуса. Анализ выражений

0 1 1 0 1,G A G G G c G− − −Δ Δ Δ Δ Δ+ (4)

показывает, что отображение 0 0 0 0( , ) * ( , )A c G A cΔ→ приводит к системам наблюдения *( , )H c с n-вектор функциями *

10( ) (0 ... 0 ( ))c t r t= и матрицами , 1( ) ( ( ))ni j i jH t r t == в верхней форме

Хессенберга, т. е. ( ) 0i jr t ≡ , ,t T∈ для 1i j> + , , (1,2,..., )i j n∈ , при этом функции ( )i jr t обладают дополнительными свойствами, указанными в следующей лемме.

Л е м м а 1. Каждая система 0 0* ( , )G A cΔ , ,GΔ Δ∈G имеет форму Хессенберга *( , )H c , при этом выполняются условия

11, 1,( , ), ( ) 0, , (0,1,..., 1).i i i ir C T R r t t T i n+ +∈ ≠ ∈ ∈ − (5)

Таким образом, наличие в множестве ( , )O A c верхней формы Хессенберга со свойством (5) необходимо для существования канонической формы Фробениуса для пары ( , )A c . Однако обратное, вообще говоря, не верно.

18

Обозначим через ( , )A cH множество всех систем *( , )H c в верхней форме Хессенберга из ( , )O A c , для которых выполняется условие (5). Заметим, что ( , )A cH для некоторых пар ( , )A c из

Σ может быть пустым. Например, оно пусто для пары 0( , )D c вида

01 0 0

( ) 0 1 0 , (0 0 1),1 ( ) 0

D t ct

⎛ ⎞⎜ ⎟= =⎜ ⎟⎜ ⎟ϕ⎝ ⎠

где функция ( )tϕ непрерывна и не является дифференцируемой на T. Л е м м а 2. Если в орбите ( , )O A c пары ( , )A c из Σ существует система *

1 1( , )H c в верхней форме Хессенберга, удовлетворяющая условию (5), то множество ( , )A cH имеет вид

* * *1 1( , ) {( , ) : ( , ) * ( , ), }.A c H c H c G H c G Δ= = ∈H G

Установим, когда для системы ( , )A c из Σ множество ( , )A cH не пусто. Пусть некоторая пара *

1 1( , )H c принадлежит множеству ( , )A cH . Тогда существует такое G∈G , что верно ра-

венство *1 1*( , ) ( , )G A c H c= . Представив матрицу G в виде ( ) ( ) ( )oG t G t G tΔ= с o nG ∈OL и GΔ Δ∈G ,

получим ** ( , ) ( , )oG A c H c= , где * 1 *1 1( , ) * ( , )H c G H c−

Δ= . Из леммы 2 следует, что пара *( , )H c принадлежит ( , )A cH .

Обозначим строки матрицы ( )oG t′ через ( )iq t , (1,2,..., )i n= , и проанализируем равенство ** ( , ) ( , )oG A c H c= , записав его в виде

*( ) ( ) ' ( ) ( ) ( ), ( ) ( ) ( ), .o o o oG t A t G t H t G t c t c t G t t T′ ′ ′+ = = ∈ (6)

Так как матрица ( )oG t ортогональна при каждом t T∈ , то 1

10| ( ) | ( ) 0 и ( ) ( ) ( ) , .nr t c t q t c t c t t T−= ≠ = ∈

Знак при ( )nq t не существенен, поэтому берем знак +. Следовательно, функция 1( ) ( )c t c t − должна быть непрерывно дифференцируемой на T. Из n-й строки соотношения (6) имеем

, 1( ) [ ( ) ( ) ( )] ( ), | ( ) | ( ) ( ) ( ) ( ) ( ) 0nn n n n n n n n nn nr t q t A t q t q t r t q t A t q t r t q t−′= + = + − ≠

и для 1( )nq t− получаем выражение

11 , 1( ) [ ( ) ( ) ( ) ( ) ( )] ( ), ,n n n nn n n nq t q t A t q t r t q t r t t T−− −= + − ∈

правая часть которого, очевидно, непрерывно дифференцируема. Далее из ( 1)n − -й строки соотношения (6) для ( , 1)i n n∈ − находим, что

1, 1 1( ) [ ( ) ( ) ( )] ( );n i n n ir t q t A t q t q t− − − ′= +

1, 2 1 1 1, 1 1 1,| ( ) | ( ) ( ) ( ) ( ) ( ) ( ) ( ) 0,n n n n n n n n n nr t q t A t q t r t q t r t q t− − − − − − − −= + − − ≠

и, следовательно,

12 1 1 1, 1, 2

1( ) [ ( ) ( ) ( ) ( ) ( )] ( ), .

nn n n n i i n n

i nq t q t A t q t r t q t r t t T−

− − − − − −= −

= + − ∈∑

Дальнейшее рассмотрение строк равенства (6) приводит к соотношениям:

2 2 2( ) [ ( ) ( ) ( )] ( ), ( , 1,...,2);i ir t q t A t q t q t i n n′= + ∈ −

21 2 2 22

| ( ) | ( ) ( ) ( ) ( ) ( ) 0;n

i ii

r t q t A t q t r t q t=

= + − ≠∑

18

Обозначим через ( , )A cH множество всех систем *( , )H c в верхней форме Хессенберга из ( , )O A c , для которых выполняется условие (5). Заметим, что ( , )A cH для некоторых пар ( , )A c из

Σ может быть пустым. Например, оно пусто для пары 0( , )D c вида

01 0 0

( ) 0 1 0 , (0 0 1),1 ( ) 0

D t ct

⎛ ⎞⎜ ⎟= =⎜ ⎟⎜ ⎟ϕ⎝ ⎠

где функция ( )tϕ непрерывна и не является дифференцируемой на T. Л е м м а 2. Если в орбите ( , )O A c пары ( , )A c из Σ существует система *

1 1( , )H c в верхней форме Хессенберга, удовлетворяющая условию (5), то множество ( , )A cH имеет вид

* * *1 1( , ) {( , ) : ( , ) * ( , ), }.A c H c H c G H c G Δ= = ∈H G

Установим, когда для системы ( , )A c из Σ множество ( , )A cH не пусто. Пусть некоторая пара *

1 1( , )H c принадлежит множеству ( , )A cH . Тогда существует такое G∈G , что верно ра-

венство *1 1*( , ) ( , )G A c H c= . Представив матрицу G в виде ( ) ( ) ( )oG t G t G tΔ= с o nG ∈OL и GΔ Δ∈G ,

получим ** ( , ) ( , )oG A c H c= , где * 1 *1 1( , ) * ( , )H c G H c−

Δ= . Из леммы 2 следует, что пара *( , )H c принадлежит ( , )A cH .

Обозначим строки матрицы ( )oG t′ через ( )iq t , (1,2,..., )i n= , и проанализируем равенство ** ( , ) ( , )oG A c H c= , записав его в виде

*( ) ( ) ' ( ) ( ) ( ), ( ) ( ) ( ), .o o o oG t A t G t H t G t c t c t G t t T′ ′ ′+ = = ∈ (6)

Так как матрица ( )oG t ортогональна при каждом t T∈ , то 1

10| ( ) | ( ) 0 и ( ) ( ) ( ) , .nr t c t q t c t c t t T−= ≠ = ∈

Знак при ( )nq t не существенен, поэтому берем знак +. Следовательно, функция 1( ) ( )c t c t − должна быть непрерывно дифференцируемой на T. Из n-й строки соотношения (6) имеем

, 1( ) [ ( ) ( ) ( )] ( ), | ( ) | ( ) ( ) ( ) ( ) ( ) 0nn n n n n n n n nn nr t q t A t q t q t r t q t A t q t r t q t−′= + = + − ≠

и для 1( )nq t− получаем выражение

11 , 1( ) [ ( ) ( ) ( ) ( ) ( )] ( ), ,n n n nn n n nq t q t A t q t r t q t r t t T−− −= + − ∈

правая часть которого, очевидно, непрерывно дифференцируема. Далее из ( 1)n − -й строки соотношения (6) для ( , 1)i n n∈ − находим, что

1, 1 1( ) [ ( ) ( ) ( )] ( );n i n n ir t q t A t q t q t− − − ′= +

1, 2 1 1 1, 1 1 1,| ( ) | ( ) ( ) ( ) ( ) ( ) ( ) ( ) 0,n n n n n n n n n nr t q t A t q t r t q t r t q t− − − − − − − −= + − − ≠

и, следовательно,

12 1 1 1, 1, 2

1( ) [ ( ) ( ) ( ) ( ) ( )] ( ), .

nn n n n i i n n

i nq t q t A t q t r t q t r t t T−

− − − − − −= −

= + − ∈∑

Дальнейшее рассмотрение строк равенства (6) приводит к соотношениям:

2 2 2( ) [ ( ) ( ) ( )] ( ), ( , 1,...,2);i ir t q t A t q t q t i n n′= + ∈ −

21 2 2 22

| ( ) | ( ) ( ) ( ) ( ) ( ) 0;n

i ii

r t q t A t q t r t q t=

= + − ≠∑

19

11 2 2 2 21

2( ) [ ( ) ( ) ( ) ( ) ( )] ( ), .

ni i

iq t q t A t q t r t q t r t t T−

== + − ∈∑

Поэтому, если для пары ( , )A c из Σ множество ( , )A cH не пусто, то на отрезке T можно рекуррентным образом определить скалярные функции ( )ijb t и n-вектор функции ( )ip t , (1,2,..., )i n∈ ,

(1,2,..., 1),j i∈ + по правилу

11 , 1 11 1 1 1

112 1 1 11 1 2 1 1 11 1 12

,

( ) ( ) ( ) ; ( ) ( ) ; ( ) [ ( ) ( ) ( )] ( );

( ) ( ) ( ) ( ) ( ) ( ) ; ( ) [ ( ) ( ) ( ) ( ) ( )] ( ), ... ;( ) [ ( ) ( ) ( )] ( ), (1,2,..., );

n n

ij i i j

i i

p t c t c t b t c t b t p t A t p t p t

b t p t A t p t b t p t p t p t A t p t b t p t b tb t p t A t p t p t j i

b

−+

−

+

′= = = +

= + − = + −

′= + ∈

11

( ) ( ) ( ) ( ) ( ) ( ) ;i

i i ik kk

t p t A t p t b t p t=

= + − ∑

(7)

11 , 1

1( ) [ ( ) ( ) ( ) ( ) ( )] ( ).

ii i i ik k i i

kp t p t A t p t b t p t b t−+ +

== + − ∑ (8)

Для i n= формулы (7), (8) не применяются. Если при некотором (1,2,..., )i n∈ указанные вектор-функции ( )ip t построить нельзя, то в

орбите пары ( , )A c не существует верхней формы Хессенберга со свойством (5), и, следовательно, не существует канонической формы Фробениуса.

Из вышеизложенного вытекает Т е о р е м а 1. Система ( , )A c из Σ приводима с помощью группы nOL к верхней форме

Хессенберга со свойством (5) тогда и только тогда, когда на отрезке T функции , 1( ) 0i ib t+ ≠ и ( )ip t , (1,2,..., ),i n∈ непрерывно дифференцируемы. Итак, если для пары ( , )A c ∈Σ выполняются условия теоремы 1, то соответствующая ей

система *( , )H c в верхней форме Хессенберга определяется следующим образом:

1, 1( ) ( ), (1,2,..., ), ( 1,..., ).i j n i n jr t b t i n j i n− + − += ∈ ∈ − (9)

Если для ( , )A c ∈Σ не выполняются условия теоремы 1, то для нее либо не существует верхней формы Хессенберга (а тем более канонической формы Фробениуса), либо верхняя форма Хессенберга существует, но для нее не выполняются условия леммы 1 и, следовательно, не существует канонической формы Фробениуса.

3. Преобразование к системам в форме Фробениуса. Приведем критерий существования канонической формы Фробениуса для верхней формы Хессенберга *( , )H c . Для этого введем рекуррентным образом скалярные функции ( )ijf t , ,t T∈ по правилу

110 1, 1 1,( ) ( ), ( ) ( ) ( ), ( 1, 2,...,1);nn ii i i i if t r t f t f t r t i n n−

+ + += = ∈ − −

0 0( ) ( ) 0, 0, 0;i jf t f t i j= = ≥ ≥

1

11, 1 , 1 , 1 , 1( ) [ ( ) ( ) ( ) ( )] ( ),

j

ij i j i j ik k j j jk i

f t f t f t f t r t r t−

−− − − − −

== − − ∑ (10)

где вычисления осуществляются последовательно для 1i = , (2,3,..., );j n∈ 2i = , (3,4,..., )j n∈ и т. д. до 1i n= − , j n= .

Т е о р е м а 2. В орбите пары *( , )H c в верхней форме Хессенберга существует каноническая форма Фробениуса 0 0( , )A c тогда и только тогда, когда выполняются условия

11, ( ) 0, ; , (0,1,2,..., ), ( , 1,..., ).i i i jr t t T f C i n j i i n+ ≠ ∈ ∈ ∈ ∈ + (11)

19

11 2 2 2 21

2( ) [ ( ) ( ) ( ) ( ) ( )] ( ), .

ni i

iq t q t A t q t r t q t r t t T−

== + − ∈∑

Поэтому, если для пары ( , )A c из Σ множество ( , )A cH не пусто, то на отрезке T можно рекуррентным образом определить скалярные функции ( )ijb t и n-вектор функции ( )ip t , (1,2,..., )i n∈ ,

(1,2,..., 1),j i∈ + по правилу

11 , 1 11 1 1 1

112 1 1 11 1 2 1 1 11 1 12

,

( ) ( ) ( ) ; ( ) ( ) ; ( ) [ ( ) ( ) ( )] ( );

( ) ( ) ( ) ( ) ( ) ( ) ; ( ) [ ( ) ( ) ( ) ( ) ( )] ( ), ... ;( ) [ ( ) ( ) ( )] ( ), (1,2,..., );

n n

ij i i j

i i

p t c t c t b t c t b t p t A t p t p t

b t p t A t p t b t p t p t p t A t p t b t p t b tb t p t A t p t p t j i

b

−+

−

+

′= = = +

= + − = + −

′= + ∈

11

( ) ( ) ( ) ( ) ( ) ( ) ;i

i i ik kk

t p t A t p t b t p t=

= + − ∑

(7)

11 , 1

1( ) [ ( ) ( ) ( ) ( ) ( )] ( ).

ii i i ik k i i

kp t p t A t p t b t p t b t−+ +

== + − ∑ (8)

Для i n= формулы (7), (8) не применяются. Если при некотором (1,2,..., )i n∈ указанные вектор-функции ( )ip t построить нельзя, то в

орбите пары ( , )A c не существует верхней формы Хессенберга со свойством (5), и, следовательно, не существует канонической формы Фробениуса.

Из вышеизложенного вытекает Т е о р е м а 1. Система ( , )A c из Σ приводима с помощью группы nOL к верхней форме

Хессенберга со свойством (5) тогда и только тогда, когда на отрезке T функции , 1( ) 0i ib t+ ≠ и ( )ip t , (1,2,..., ),i n∈ непрерывно дифференцируемы. Итак, если для пары ( , )A c ∈Σ выполняются условия теоремы 1, то соответствующая ей

система *( , )H c в верхней форме Хессенберга определяется следующим образом:

1, 1( ) ( ), (1,2,..., ), ( 1,..., ).i j n i n jr t b t i n j i n− + − += ∈ ∈ − (9)

Если для ( , )A c ∈Σ не выполняются условия теоремы 1, то для нее либо не существует верхней формы Хессенберга (а тем более канонической формы Фробениуса), либо верхняя форма Хессенберга существует, но для нее не выполняются условия леммы 1 и, следовательно, не существует канонической формы Фробениуса.

3. Преобразование к системам в форме Фробениуса. Приведем критерий существования канонической формы Фробениуса для верхней формы Хессенберга *( , )H c . Для этого введем рекуррентным образом скалярные функции ( )ijf t , ,t T∈ по правилу

110 1, 1 1,( ) ( ), ( ) ( ) ( ), ( 1, 2,...,1);nn ii i i i if t r t f t f t r t i n n−

+ + += = ∈ − −

0 0( ) ( ) 0, 0, 0;i jf t f t i j= = ≥ ≥

1

11, 1 , 1 , 1 , 1( ) [ ( ) ( ) ( ) ( )] ( ),

j

ij i j i j ik k j j jk i

f t f t f t f t r t r t−

−− − − − −

== − − ∑ (10)

где вычисления осуществляются последовательно для 1i = , (2,3,..., );j n∈ 2i = , (3,4,..., )j n∈ и т. д. до 1i n= − , j n= .

Т е о р е м а 2. В орбите пары *( , )H c в верхней форме Хессенберга существует каноническая форма Фробениуса 0 0( , )A c тогда и только тогда, когда выполняются условия

11, ( ) 0, ; , (0,1,2,..., ), ( , 1,..., ).i i i jr t t T f C i n j i i n+ ≠ ∈ ∈ ∈ ∈ + (11)

20

Доказательство теоремы 2 основано на непосредственном анализе матричного соотношения (4). Рассмотрим теорему 2 для множества nR равномерно наблюдаемых систем класса n. Для пар

( , ) nA c R∈ [1–4] существует непрерывно дифференцируемая невырожденная при каждом t T∈ матрица наблюдаемости ( )S t , строки которой находятся по рекуррентным формулам

0 1( ) ( ), ( ) ( ) ( ) ( ), (0,1,..., 1).i i is t c t s t s t A t s t i n+= = + ∈ −

Обозначим компоненты полного инварианта 1( ) ( )ns t S t− через 1( )h t , 2 ( ),...h t , ( )nh t . Приме- нив к системе ( , )A c преобразование ( )G t , обратная матрица 1( )G t− которого равна 1( )G t− =

1 1 0( ( ) ... ( ) ( )) 'ns t s t s t−′ ′ ′ , получим верхнюю форму Хессенберга 0( , )H c , элементы ( )ijr t которой равны нулю, кроме 1 1( ) ( )j n jr t h t+ −= , (1,2,..., )j n∈ ; 1, ( ) 1i ir t+ = , (1,2,..., 1)i n∈ − . Формулы (10) в данном случае упрощаются и имеют вид:

( ) 1, ( , 2,...,1);iif t i n n= ∈ −

1, 1 , 1( ) ( ) ( ), (1,2,..., 1), ( 1, 2,..., ).ij i j i jf t f t f t i n j i i n− − −= − ∈ − ∈ + +

С л е д с т в и е 1. Каноническая форма Фробениуса для равномерно наблюдаемых систем класса n существует тогда и только тогда, когда 1

ijf C∈ , (1,2,..., )i n∈ , ( 1,..., )j i n∈ + . Функции ( )j tα находятся по формулам

1,( ) ( ) , (0,1,..., 1).j j n jnt f t f j n+α = − ∈ −

Системы 0( , ) nA c R∈ всегда приводимы к верхней форме Хессенберга 0( , )H c , которая удовлетворяет условию (11), т. е. для пар 0( , ) nA c R∈ существуют канонические формы Фробениуса, что согласуется с результатами работ [1–5], а также [10].

Вышеизложенное обосновывает следующий способ построения канонической формы Фро- бениуса для пары ( , )A c ∈Σ .

1. Для системы ( , )A c проверяем необходимое условие существования канонической формы

Фробениуса: 1( , )nc C T R∈ , ( ) 0,c t t T≠ ∈ . Если оно не выполняется, то пары 0 0( , )A c в орбите ( , )O A c не существует.

2. Проверяем условия теоремы 1. Если они не выполняются, то в орбите ( , )O A c не сущест-

вует пары 0 0( , )A c . В случае выполнения условий теоремы 1 верхняя форма Хессенберга *( , )H c определяется по формулам (9).

3. При выполнении условий (11) функции ( )i tα , (0,1,..., 1),i n∈ − канонической формы Фро- бениуса вычисляются по формулам

0 1 1 1, 1,1 1

( ) ( ) ( ) ( ); ( ) ( ) ( ) ( ) ( ).n n

k kn n i i k kn i n ink k i

t f t r t f t t f t r t f t f t+ += = +

α = + α = + −∑ ∑

Если требования (11) не выполняются, то в орбите ( , )O A c не существует пары 0 0( , )A c .


1. Г а й ш у н И. В., А с т р о в с к и й А. И. // Докл. АН Беларуси. 1996. Т. 40, № 5. С. 5–8. 2. А с т р о в с к и й А. И., Г а й ш у н И. В. // Автоматика и телемеханика. 1998. № 7. С. 3–13. 3. А с т р о в с к и й А. И., Г а й ш у н И. В. // Изв. РАН. Теория и системы управления. 1998. № 2. С. 24–30. 4. Г а й ш у н И. В. Введение в теорию линейных нестационарных систем. Минск, 1999. 5. Г а й ш у н И. В. // Автоматика и телемеханика. 1999. № 2. С. 11–18. 6. S i l v e r m a n L. M. // IEEE Trans. Autom. Control. 1966. Vol. AC-11, N 2. P. 300–303. 7. Д ’ А н ж е л о Г. Линейные системы с переменными параметрами. М., 1974.

20

Доказательство теоремы 2 основано на непосредственном анализе матричного соотношения (4). Рассмотрим теорему 2 для множества nR равномерно наблюдаемых систем класса n. Для пар

( , ) nA c R∈ [1–4] существует непрерывно дифференцируемая невырожденная при каждом t T∈ матрица наблюдаемости ( )S t , строки которой находятся по рекуррентным формулам

0 1( ) ( ), ( ) ( ) ( ) ( ), (0,1,..., 1).i i is t c t s t s t A t s t i n+= = + ∈ −

Обозначим компоненты полного инварианта 1( ) ( )ns t S t− через 1( )h t , 2 ( ),...h t , ( )nh t . Приме- нив к системе ( , )A c преобразование ( )G t , обратная матрица 1( )G t− которого равна 1( )G t− =

1 1 0( ( ) ... ( ) ( )) 'ns t s t s t−′ ′ ′ , получим верхнюю форму Хессенберга 0( , )H c , элементы ( )ijr t которой равны нулю, кроме 1 1( ) ( )j n jr t h t+ −= , (1,2,..., )j n∈ ; 1, ( ) 1i ir t+ = , (1,2,..., 1)i n∈ − . Формулы (10) в данном случае упрощаются и имеют вид:

( ) 1, ( , 2,...,1);iif t i n n= ∈ −

1, 1 , 1( ) ( ) ( ), (1,2,..., 1), ( 1, 2,..., ).ij i j i jf t f t f t i n j i i n− − −= − ∈ − ∈ + +

С л е д с т в и е 1. Каноническая форма Фробениуса для равномерно наблюдаемых систем класса n существует тогда и только тогда, когда 1

ijf C∈ , (1,2,..., )i n∈ , ( 1,..., )j i n∈ + . Функции ( )j tα находятся по формулам

1,( ) ( ) , (0,1,..., 1).j j n jnt f t f j n+α = − ∈ −

Системы 0( , ) nA c R∈ всегда приводимы к верхней форме Хессенберга 0( , )H c , которая удовлетворяет условию (11), т. е. для пар 0( , ) nA c R∈ существуют канонические формы Фробениуса, что согласуется с результатами работ [1–5], а также [10].

Вышеизложенное обосновывает следующий способ построения канонической формы Фро- бениуса для пары ( , )A c ∈Σ .

1. Для системы ( , )A c проверяем необходимое условие существования канонической формы

Фробениуса: 1( , )nc C T R∈ , ( ) 0,c t t T≠ ∈ . Если оно не выполняется, то пары 0 0( , )A c в орбите ( , )O A c не существует.

2. Проверяем условия теоремы 1. Если они не выполняются, то в орбите ( , )O A c не сущест-

вует пары 0 0( , )A c . В случае выполнения условий теоремы 1 верхняя форма Хессенберга *( , )H c определяется по формулам (9).

3. При выполнении условий (11) функции ( )i tα , (0,1,..., 1),i n∈ − канонической формы Фро- бениуса вычисляются по формулам

0 1 1 1, 1,1 1

( ) ( ) ( ) ( ); ( ) ( ) ( ) ( ) ( ).n n

k kn n i i k kn i n ink k i

t f t r t f t t f t r t f t f t+ += = +

α = + α = + −∑ ∑

Если требования (11) не выполняются, то в орбите ( , )O A c не существует пары 0 0( , )A c .


1. Г а й ш у н И. В., А с т р о в с к и й А. И. // Докл. АН Беларуси. 1996. Т. 40, № 5. С. 5–8. 2. А с т р о в с к и й А. И., Г а й ш у н И. В. // Автоматика и телемеханика. 1998. № 7. С. 3–13. 3. А с т р о в с к и й А. И., Г а й ш у н И. В. // Изв. РАН. Теория и системы управления. 1998. № 2. С. 24–30. 4. Г а й ш у н И. В. Введение в теорию линейных нестационарных систем. Минск, 1999. 5. Г а й ш у н И. В. // Автоматика и телемеханика. 1999. № 2. С. 11–18. 6. S i l v e r m a n L. M. // IEEE Trans. Autom. Control. 1966. Vol. AC-11, N 2. P. 300–303. 7. Д ’ А н ж е л о Г. Линейные системы с переменными параметрами. М., 1974.

21

8. S i l v e r m a n L. M., M e a d o w s H. E. // SIAM J. Control. 1967. Vol. 5, N 1. P. 64–73. 9. М о р о з о в В. М., К а л е н о в а В. И. Оценивание и управление в нестационарных линейных системах. М., 1988.

10. Б о р у х о в В. Т., Г а й ш у н И. В. // Дифференц. уравнения. 2001. Т. 37, № 4. С. 446–452. 11. А с т р о в с к и й А. И. // Докл. РАН. 2002. Т. 383, № 4. С. 439–442. 12. Х о р н Р., Д ж о н с о н Ч. Матричный анализ. М., 1989. 13. К р а с о в с к и й Н. Н. Теория управления движением. М., 1968. 14. А с т р о в с к и й А. И. Наблюдаемость линейных нестационарных систем. Минск, 2007.

ASTROVSKII A. I.

TRANSFORMATION OF LINEAR TIME-VARYING OBSERVATION SYSTEMS WITH THE SCALAR OUTPUT TO THE FROBENIUS CANONICAL FORMS

Summary

The necessary and sufficient conditions for linear time-varying observation systems with the scalar output to be transformed to the Frobenius canonical form under the action of the linear time-varying group of class C1 are obtained.

21

8. S i l v e r m a n L. M., M e a d o w s H. E. // SIAM J. Control. 1967. Vol. 5, N 1. P. 64–73. 9. М о р о з о в В. М., К а л е н о в а В. И. Оценивание и управление в нестационарных линейных системах. М., 1988.

10. Б о р у х о в В. Т., Г а й ш у н И. В. // Дифференц. уравнения. 2001. Т. 37, № 4. С. 446–452. 11. А с т р о в с к и й А. И. // Докл. РАН. 2002. Т. 383, № 4. С. 439–442. 12. Х о р н Р., Д ж о н с о н Ч. Матричный анализ. М., 1989. 13. К р а с о в с к и й Н. Н. Теория управления движением. М., 1968. 14. А с т р о в с к и й А. И. Наблюдаемость линейных нестационарных систем. Минск, 2007.

ASTROVSKII A. I.

TRANSFORMATION OF LINEAR TIME-VARYING OBSERVATION SYSTEMS WITH THE SCALAR OUTPUT TO THE FROBENIUS CANONICAL FORMS

Summary

The necessary and sufficient conditions for linear time-varying observation systems with the scalar output to be transformed to the Frobenius canonical form under the action of the linear time-varying group of class C1 are obtained.

22



УДК 512.643

О. Ю. КУШЕЛЬ

О СПЕКТРЕ И АППРОКСИМАЦИЯХ ОДНОГО КЛАССА НЕРАЗЛОЖИМЫХ МАТРИЦ

(Представлено членом-корреспондентом В. В. Гороховиком)

Белорусский государственный университет, Минск Поступило 17.11.2008

Введение. Хорошо известно утверждение [1, с. 46, теоремы 6 и 7] о том, что для положи-тельности (неотрицательности) всех собственных значений вещественной симметрической мат-рицы необходимо и достаточно положительности (соответственно неотрицательности) всех ее главных миноров. Легко видеть, что для произвольной (не обязательно симметрической) матри-цы это утверждение перестает быть верным. Возникает вопрос, какие дополнительные условия, наряду с положительностью главных миноров, необходимо накладывать на несимметрическую матрицу, чтобы можно было гарантировать положительность ее собственных значений. В моно-графии [1] были изучены вполне положительные и вполне неотрицательные матрицы, т. е. мат-рицы, все миноры которых любого порядка являются положительными (неотрицательными). Для таких матриц доказывалась положительность (неотрицательность) всех собственных значе-ний даже в несимметрическом случае. Однако неотрицательность всех миноров произвольной матрицы является достаточным, но не необходимым условием неотрицательности ее спектра. В настоящей работе выделен более общий класс «вполне неотрицательных» матриц, главные миноры которых неотрицательны, а на знаки остальных миноров накладываются определенные условия.

Цель работы – определить, в каких случаях матрица, принадлежащая к выделенному классу, имеет комплексные собственные значения, а в каких – только вещественные, и описать спектр выделенного класса матриц. При этом мы ограничимся случаем, когда условия налагаются на элементы матрицы и на ее миноры второго порядка.

Неразложимые матрицы. Сначала напомним некоторые определения и утверждения из теории матриц [2]. Матрица A называется разложимой, если при помощи некоторой перену- мерации координат она может быть приведена к следующему виду:

1

2

0,

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

=A

AB A

(1)

где A1, A2 – квадратные матрицы. В противном случае матрица A называется неразложимой. Хо-рошо известна теорема Фробениуса, описывающая свойства спектра неотрицательных неразло-жимых матриц: пусть матрица A линейного оператора A неотрицательна и неразложима. Тогда спектральный радиус ( ) 0Aρ > является простым положительным собственным значением опе-ратора A, которому отвечает положительный собственный вектор 1x . При этом, если h – число собственных значений оператора A, равных по модулю ( )Aρ , то все они являются простыми и совпадают c корнями h-й степени из ( ( ))hAρ . Более того, спектр A является инвариантным относительно поворота на угол 2π /h.

Число h собственных значений, равных по модулю ( )Aρ , называется индексом импримитив-ности неразложимого оператора A. Оператор A называется примитивным при ( ) 1h A = , и импри-митивным при ( ) 1h A > .

22



УДК 512.643

О. Ю. КУШЕЛЬ

О СПЕКТРЕ И АППРОКСИМАЦИЯХ ОДНОГО КЛАССА НЕРАЗЛОЖИМЫХ МАТРИЦ



Введение. Хорошо известно утверждение [1, с. 46, теоремы 6 и 7] о том, что для положи-тельности (неотрицательности) всех собственных значений вещественной симметрической мат-рицы необходимо и достаточно положительности (соответственно неотрицательности) всех ее главных миноров. Легко видеть, что для произвольной (не обязательно симметрической) матри-цы это утверждение перестает быть верным. Возникает вопрос, какие дополнительные условия, наряду с положительностью главных миноров, необходимо накладывать на несимметрическую матрицу, чтобы можно было гарантировать положительность ее собственных значений. В моно-графии [1] были изучены вполне положительные и вполне неотрицательные матрицы, т. е. мат-рицы, все миноры которых любого порядка являются положительными (неотрицательными). Для таких матриц доказывалась положительность (неотрицательность) всех собственных значе-ний даже в несимметрическом случае. Однако неотрицательность всех миноров произвольной матрицы является достаточным, но не необходимым условием неотрицательности ее спектра. В настоящей работе выделен более общий класс «вполне неотрицательных» матриц, главные миноры которых неотрицательны, а на знаки остальных миноров накладываются определенные условия.

Цель работы – определить, в каких случаях матрица, принадлежащая к выделенному классу, имеет комплексные собственные значения, а в каких – только вещественные, и описать спектр выделенного класса матриц. При этом мы ограничимся случаем, когда условия налагаются на элементы матрицы и на ее миноры второго порядка.

Неразложимые матрицы. Сначала напомним некоторые определения и утверждения из теории матриц [2]. Матрица A называется разложимой, если при помощи некоторой перену- мерации координат она может быть приведена к следующему виду:

1

2

0,

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

=A

AB A

(1)

где A1, A2 – квадратные матрицы. В противном случае матрица A называется неразложимой. Хо-рошо известна теорема Фробениуса, описывающая свойства спектра неотрицательных неразло-жимых матриц: пусть матрица A линейного оператора A неотрицательна и неразложима. Тогда спектральный радиус ( ) 0Aρ > является простым положительным собственным значением опе-ратора A, которому отвечает положительный собственный вектор 1x . При этом, если h – число собственных значений оператора A, равных по модулю ( )Aρ , то все они являются простыми и совпадают c корнями h-й степени из ( ( ))hAρ . Более того, спектр A является инвариантным относительно поворота на угол 2π /h.

Число h собственных значений, равных по модулю ( )Aρ , называется индексом импримитив-ности неразложимого оператора A. Оператор A называется примитивным при ( ) 1h A = , и импри-митивным при ( ) 1h A > .

23

Тензорный и внешний квадраты оператора в пространстве nR . В дальнейшем в этой работе мы рассмотрим пространство nR как пространство вещественнозначных функций, заданных на множестве индексов {1, , }n… . Обозначим такое пространство X. Базис в пространстве X состоит из функций ie , для которых ( )i ije j = δ . Приведем основные определения и утверждения, связан-ные с реализацией тензорного и внешнего квадратов пространства X [3]. Так, тензорный квадрат X X⊗ пространства X представляет собой пространство функций, заданных на множестве

{1, , } {1, , }n n… × … . Пространство X X⊗ изоморфно пространству 2nR . Внешний квадрат X X∧

пространства X представляет собой пространство всех антисимметричных функций, заданных на множестве {1, , } {1, , }n n… × … . Пространство X X∧ изоморфно пространству ( )X W Δ вещест-веннозначных функций, заданных на множестве W Δ , где W – некоторое подмножество {1, , } {1, , }n n… × … , удовлетворяющее следующим условиям:

({1, , } {1, , });W W n n∪ = … × … (2) ,W W∩ = Δ (3)

где {( , ) : ( , ) }W j i i j W= ∈ ; {( , ) : 1, , }i i i nΔ = = … . Для мощности множества W Δ справедливо

равенство 2( ) nN W CΔ = , следовательно, ( )X W Δ изоморфно 2nCR . Каждое множество

{1, , } {1, , }W n n⊂ … × … , обладающее свойствами (2) и (3), задает на {1, , }n… некоторое связное, антисимметричное и рефлексивное бинарное отношение. Если дополнительно для любых , , {1, , }i j k n∈ … из включений ( , )i j W∈ и ( , )j k W∈ следует включение ( , )i k W∈ (т. е. W обла-дает свойством транзитивности), то отношение, задаваемое множеством W на {1, , }n… , будет отношением линейного порядка.

Множество W со свойствами (2) и (3) однозначно определяет в n nR R∧ базис ( , ){ }i j i j We e ∈ Δ∧ ,

состоящий из внешних произведений исходных базисных векторов. Базис в n nR R∧ , построен-ный по множеству W, называется W-базисом.

Пусть в базисе 1{ }ni ie = оператор A задается матрицей , 1{ }n

ij i ja ==A . Тогда матрица внешнего

квадрата оператора A в W-базисе ( , ){ }i j i j We e ∈ Δ∧ будет совпадать с W-матрицей (2)WA , т. е.

с матрицей, составленной из занумерованных в лексикографическом порядке обобщенных

миноров второго порядка i j

Ak l⎛ ⎞⎜ ⎟⎝ ⎠

, где пары ( , ), ( , )i j k l принадлежат множеству W Δ .

Заметим, что если взять в качестве W множество {( , ) {1, , } {1, , }: }M i j n n i j= ∈ … × … ≤ , то со-

ответствующая W-матрица, т. е. матрица, составленная из миноров i j

Ak l⎛ ⎞⎜ ⎟⎝ ⎠

, для которых

,i j k l< < , будет представлять собой вторую ассоциированную матрицу к матрице A. Связь между неразложимостью и J-знакосимметричностью. Теперь необходимо дать

ответ на вопрос, какими свойствами должна обладать вторая ассоциированная матрица A(2), что-бы можно было гарантировать, что среди W-матриц, построенных по матрице A, имеется неот-рицательная. Для этого мы введем следующее определение.

Вторую ассоциированную матрицу A(2) будем называть J-знакосимметричной, если сущест-вует такое подмножество 2{1, , }nJ C⊆ … , что для любых двух номеров Jα∈ , 2{1, , }nC Jβ∈ …

справедливо неравенство (2) 0aα β ≤ , причем строгое неравенство (2)

0aα β < выполняется только то-

гда, когда один из номеров α, β принадлежит J, а другой 2{1 }n… C J, , . В дальнейшем наряду с J-знакосимметричностью мы будем накладывать на ассоциирован-

ную матрицу A(2) условие неразложимости. Докажем следующее утверждение.

23

Тензорный и внешний квадраты оператора в пространстве nR . В дальнейшем в этой работе мы рассмотрим пространство nR как пространство вещественнозначных функций, заданных на множестве индексов {1, , }n… . Обозначим такое пространство X. Базис в пространстве X состоит из функций ie , для которых ( )i ije j = δ . Приведем основные определения и утверждения, связан-ные с реализацией тензорного и внешнего квадратов пространства X [3]. Так, тензорный квадрат X X⊗ пространства X представляет собой пространство функций, заданных на множестве

{1, , } {1, , }n n… × … . Пространство X X⊗ изоморфно пространству 2nR . Внешний квадрат X X∧

пространства X представляет собой пространство всех антисимметричных функций, заданных на множестве {1, , } {1, , }n n… × … . Пространство X X∧ изоморфно пространству ( )X W Δ вещест-веннозначных функций, заданных на множестве W Δ , где W – некоторое подмножество {1, , } {1, , }n n… × … , удовлетворяющее следующим условиям:

({1, , } {1, , });W W n n∪ = … × … (2) ,W W∩ = Δ (3)

где {( , ) : ( , ) }W j i i j W= ∈ ; {( , ) : 1, , }i i i nΔ = = … . Для мощности множества W Δ справедливо

равенство 2( ) nN W CΔ = , следовательно, ( )X W Δ изоморфно 2nCR . Каждое множество

{1, , } {1, , }W n n⊂ … × … , обладающее свойствами (2) и (3), задает на {1, , }n… некоторое связное, антисимметричное и рефлексивное бинарное отношение. Если дополнительно для любых , , {1, , }i j k n∈ … из включений ( , )i j W∈ и ( , )j k W∈ следует включение ( , )i k W∈ (т. е. W обла-дает свойством транзитивности), то отношение, задаваемое множеством W на {1, , }n… , будет отношением линейного порядка.

Множество W со свойствами (2) и (3) однозначно определяет в n nR R∧ базис ( , ){ }i j i j We e ∈ Δ∧ ,

состоящий из внешних произведений исходных базисных векторов. Базис в n nR R∧ , построен-ный по множеству W, называется W-базисом.

Пусть в базисе 1{ }ni ie = оператор A задается матрицей , 1{ }n

ij i ja ==A . Тогда матрица внешнего

квадрата оператора A в W-базисе ( , ){ }i j i j We e ∈ Δ∧ будет совпадать с W-матрицей (2)WA , т. е.

с матрицей, составленной из занумерованных в лексикографическом порядке обобщенных

миноров второго порядка i j

Ak l⎛ ⎞⎜ ⎟⎝ ⎠

, где пары ( , ), ( , )i j k l принадлежат множеству W Δ .

Заметим, что если взять в качестве W множество {( , ) {1, , } {1, , }: }M i j n n i j= ∈ … × … ≤ , то со-

ответствующая W-матрица, т. е. матрица, составленная из миноров i j

Ak l⎛ ⎞⎜ ⎟⎝ ⎠

, для которых

,i j k l< < , будет представлять собой вторую ассоциированную матрицу к матрице A. Связь между неразложимостью и J-знакосимметричностью. Теперь необходимо дать

ответ на вопрос, какими свойствами должна обладать вторая ассоциированная матрица A(2), что-бы можно было гарантировать, что среди W-матриц, построенных по матрице A, имеется неот-рицательная. Для этого мы введем следующее определение.

Вторую ассоциированную матрицу A(2) будем называть J-знакосимметричной, если сущест-вует такое подмножество 2{1, , }nJ C⊆ … , что для любых двух номеров Jα∈ , 2{1, , }nC Jβ∈ …

справедливо неравенство (2) 0aα β ≤ , причем строгое неравенство (2)

0aα β < выполняется только то-

гда, когда один из номеров α, β принадлежит J, а другой 2{1 }n… C J, , . В дальнейшем наряду с J-знакосимметричностью мы будем накладывать на ассоциирован-

ную матрицу A(2) условие неразложимости. Докажем следующее утверждение.

24

Т е о р е м а 1. Пусть для некоторой матрицы A вторая ассоциированная матрица A(2) является J-знакосимметричной. Тогда можно определить подмножество {1, , } {1, , }W n n∈ … × … ,

обладающее свойствами (2) и (3), такое, что соответствующая W-матрица (2)WA будет неот-

рицательной, а при условии неразложимости A(2) – и неразложимой. Верно также и обратное. Пусть некоторая W-матрица (2)

WA матрицы A неотрицательна. Тогда ассоциированная матрица второго порядка A(2) является J-знакосимметричной, а при условии неразложимости (2)

WA – и неразложимой. Заметим, что среди W-матриц, построенных по матрице A, имеется положительная, если

и только если вторая ассоциированная матрица A(2) обладает свойством строгой J-знакосим- метричности (т. е. A(2) не имеет нулевых элементов и существует такое подмножество

2{1, , }nJ C⊆ … , что (2) 0aα β < тогда и только тогда, когда один из номеров α, β принадлежит J,

а другой 2{1, , }nC J… ). Перестановки и изоморфизмы пространства X. Известно [1, с. 317, теорема 13], что если

матрица A линейного оператора A неотрицательна вместе с ассоциированной матрицей второго порядка A(2), то первые два наибольших по модулю собственных значения оператора A будут вещественными и неотрицательными. Однако если заменить неотрицательность второй ассо-циированной матрицы A(2) на неотрицательность W-матрицы (2)

WA , построенной по произволь-ному множеству W, обладающему свойствами (2) и (3), то переферический спектр A не обяза-тельно будет вещественным. Как будет показано в дальнейшем, вещественность спектра A в дан-ном случае зависит от того, обладает ли множество W дополнительным свойством транзитив- ности.

Чтобы рассмотреть случай, когда множество W обладает свойством транзитивности (и, сле-довательно, определяет на {1, , }n… отношение линейного порядка), нам понадобятся некоторые предварительные построения. Докажем следующую лемму.

Л е м м а. Каждое из множеств W, задающих на {1, , }n… отношение линейного порядка, од-нозначно определяется перестановкой ( (1), , ( ))nθ = θ … θ . Верно также и обратное: по любому множеству W, задающему линейный порядок на {1, , }n… , можно однозначно определить пере-становку θ индексов {1, , }n… .

Обозначим Qθ перестановочный оператор, определяемый на базисных векторах следующим образом: ( )( ) ( 1, , )i iQ e e i nθ θ= = … . Справедлива следующая теорема.

Т е о р е м а 2. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и ее ассоциированная матрица второго порядка A(2) J-знакосимметрична. Пусть множество W, по-строенное по множеству индексов J, является транзитивным. Тогда существует перестано-вочный оператор Qθ , такой, что матрица T

θ θ=P Q AQ неотрицательна вместе со второй ассо-циированной матрицей P(2). Более того, в случае неразложимости матриц A и A(2) матрицы P и P(2) также будут неразложимы.

Заметим, что в случае, когда множество W не является транзитивным, утверждение теоремы 2 перестает быть верным.

Приближение J-знакосимметричной матрицы строго J-знакосимметричными. Поль- зуясь теоремой 2, докажем обобщение утверждения Ф. Р. Гантмахера и М. Г. Крейна об аппрок-симации вполне неотрицательной матрицы вполне положительными [1, с. 317, следствие из тео-ремы 12].

Т е о р е м а 3. Пусть A – неотрицательная матрица. Пусть ее ассоциированная матрица второго порядка A(2) является J-знакосимметричной. Пусть множество W, построенное по множеству индексов J, является транзитивным. Тогда существует сходящаяся к A последова-тельность { }nA положительных матриц, ассоциированные матрицы второго порядка к кото-рым являются строго J-знакосимметричными.

24

Т е о р е м а 1. Пусть для некоторой матрицы A вторая ассоциированная матрица A(2) является J-знакосимметричной. Тогда можно определить подмножество {1, , } {1, , }W n n∈ … × … ,

обладающее свойствами (2) и (3), такое, что соответствующая W-матрица (2)WA будет неот-

рицательной, а при условии неразложимости A(2) – и неразложимой. Верно также и обратное. Пусть некоторая W-матрица (2)

WA матрицы A неотрицательна. Тогда ассоциированная матрица второго порядка A(2) является J-знакосимметричной, а при условии неразложимости (2)

WA – и неразложимой. Заметим, что среди W-матриц, построенных по матрице A, имеется положительная, если

и только если вторая ассоциированная матрица A(2) обладает свойством строгой J-знакосим- метричности (т. е. A(2) не имеет нулевых элементов и существует такое подмножество

2{1, , }nJ C⊆ … , что (2) 0aα β < тогда и только тогда, когда один из номеров α, β принадлежит J,

а другой 2{1, , }nC J… ). Перестановки и изоморфизмы пространства X. Известно [1, с. 317, теорема 13], что если

матрица A линейного оператора A неотрицательна вместе с ассоциированной матрицей второго порядка A(2), то первые два наибольших по модулю собственных значения оператора A будут вещественными и неотрицательными. Однако если заменить неотрицательность второй ассо-циированной матрицы A(2) на неотрицательность W-матрицы (2)

WA , построенной по произволь-ному множеству W, обладающему свойствами (2) и (3), то переферический спектр A не обяза-тельно будет вещественным. Как будет показано в дальнейшем, вещественность спектра A в дан-ном случае зависит от того, обладает ли множество W дополнительным свойством транзитив- ности.

Чтобы рассмотреть случай, когда множество W обладает свойством транзитивности (и, сле-довательно, определяет на {1, , }n… отношение линейного порядка), нам понадобятся некоторые предварительные построения. Докажем следующую лемму.

Л е м м а. Каждое из множеств W, задающих на {1, , }n… отношение линейного порядка, од-нозначно определяется перестановкой ( (1), , ( ))nθ = θ … θ . Верно также и обратное: по любому множеству W, задающему линейный порядок на {1, , }n… , можно однозначно определить пере-становку θ индексов {1, , }n… .

Обозначим Qθ перестановочный оператор, определяемый на базисных векторах следующим образом: ( )( ) ( 1, , )i iQ e e i nθ θ= = … . Справедлива следующая теорема.

Т е о р е м а 2. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и ее ассоциированная матрица второго порядка A(2) J-знакосимметрична. Пусть множество W, по-строенное по множеству индексов J, является транзитивным. Тогда существует перестано-вочный оператор Qθ , такой, что матрица T

θ θ=P Q AQ неотрицательна вместе со второй ассо-циированной матрицей P(2). Более того, в случае неразложимости матриц A и A(2) матрицы P и P(2) также будут неразложимы.

Заметим, что в случае, когда множество W не является транзитивным, утверждение теоремы 2 перестает быть верным.

Приближение J-знакосимметричной матрицы строго J-знакосимметричными. Поль- зуясь теоремой 2, докажем обобщение утверждения Ф. Р. Гантмахера и М. Г. Крейна об аппрок-симации вполне неотрицательной матрицы вполне положительными [1, с. 317, следствие из тео-ремы 12].

Т е о р е м а 3. Пусть A – неотрицательная матрица. Пусть ее ассоциированная матрица второго порядка A(2) является J-знакосимметричной. Пусть множество W, построенное по множеству индексов J, является транзитивным. Тогда существует сходящаяся к A последова-тельность { }nA положительных матриц, ассоциированные матрицы второго порядка к кото-рым являются строго J-знакосимметричными.

25

Используя теорему 3 и свойства непрерывности, получим следующее утверждение. Т е о р е м а 4. Пусть A – неотрицательная матрица. Пусть ее ассоциированная матрица

второго порядка A(2) является J-знакосимметричной. Пусть множество W, построенное по множеству индексов J, является транзитивным. Тогда первые два наибольших по модулю соб-ственных значения оператора A неотрицательны.

В дальнейшем будет показано, что если множество W, построенное по множеству индексов J, не является транзитивным, то утверждение теоремы 4 о вещественности первых двух собст-венных значений перестает быть верным даже при дополнительном условии неразложимости матрицы.

Теорема о собственных значениях неразложимой матрицы с J-знакосимметричной ас-социированной. Случай транзитивного W. Накладывая на матрицу A и ее ассоциированную A(2) дополнительное условие неразложимости, можно получить более подробную информацию о структуре спектра, чем та, что дает теорема 4. Результаты этого пункта, как и предыдущего, будут справедливы лишь для случая транзитивного W.

Т е о р е м а 5. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и не-разложима и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосим- метрична. Пусть множество W, построенное по множеству индексов J, является транзитив-ным. Тогда ( ) 1h A = и у матрицы A существует первое простое положительное собственное значение 1λ , равное спектральному радиусу ( )Aρ , и второе простое положительное собствен-ное значение 2λ

1 2 3| | .λ > λ ≥ λ >…

Если ( ) ( ) 1h A h A A= ∧ = , то 2λ является отличным по модулю от других собственных зна-чений. Если же ( ) 1h A = , а ( ) 1h A A∧ > , то у оператора A существуют ( )h A A∧ собственных значений 2 3 ( ) 1, , , h A A∧ +λ λ … λ , равных по абсолютной величине 2λ , каждое из них является про-

стым и они совпадают с корнями ( )h A A∧ -й степени из ( )2h A A∧λ .

Теорема о собственных значениях неразложимой матрицы с J-знакосимметричной ассоциированной. Случай нетранзитивного W. В предыдущем пункте было доказано, что если матрицы A и (2)

WA неотрицательны и неразложимы, и множество W транзитивно, то у оператора A существуют два положительных простых собственных значения 1λ и 2λ . В этом пункте мы покажем, что когда множество W нетранзитивно, спектр оператора A имеет другую структуру (на спектральной окружности | | ( )Aλ = ρ расположены ровно три собственных значения, обра-зующих вершины правильного треугольника).

Т е о р е м а 6. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и не-разложима и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосим- метрична. Пусть множество W, построенное по множеству индексов J, не является транзи-тивным. Тогда у оператора A имеется первое положительное собственное значение ( )Aλ = ρ , которому отвечает положительный собственный вектор 1x . Более того, на спектральной окружности | | ( )Aλ = ρ расположено ровно три собственных значения, все они являются про-стыми и совпадают c корнями 3-й степени из 3( ( ))Aρ . При этом индекс импримитивности

( )h A оператора A совпадает с индексом импримитивности ( )h A A∧ его внешнего квадрата A A∧ и равен трем.

Из теоремы 6 следует утверждение: пусть матрица A линейного оператора : n nA R R→ примитивна и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосимметрична. Тогда множество W, построенное по множеству индексов J, является транзитивным.

П р и м е р 1. Приведем пример оператора, удовлетворяющего условиям теоремы 6. Пусть оператор 3 3:A R R→ задается матрицей

25

Используя теорему 3 и свойства непрерывности, получим следующее утверждение. Т е о р е м а 4. Пусть A – неотрицательная матрица. Пусть ее ассоциированная матрица

второго порядка A(2) является J-знакосимметричной. Пусть множество W, построенное по множеству индексов J, является транзитивным. Тогда первые два наибольших по модулю соб-ственных значения оператора A неотрицательны.

В дальнейшем будет показано, что если множество W, построенное по множеству индексов J, не является транзитивным, то утверждение теоремы 4 о вещественности первых двух собст-венных значений перестает быть верным даже при дополнительном условии неразложимости матрицы.

Теорема о собственных значениях неразложимой матрицы с J-знакосимметричной ас-социированной. Случай транзитивного W. Накладывая на матрицу A и ее ассоциированную A(2) дополнительное условие неразложимости, можно получить более подробную информацию о структуре спектра, чем та, что дает теорема 4. Результаты этого пункта, как и предыдущего, будут справедливы лишь для случая транзитивного W.

Т е о р е м а 5. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и не-разложима и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосим- метрична. Пусть множество W, построенное по множеству индексов J, является транзитив-ным. Тогда ( ) 1h A = и у матрицы A существует первое простое положительное собственное значение 1λ , равное спектральному радиусу ( )Aρ , и второе простое положительное собствен-ное значение 2λ

1 2 3| | .λ > λ ≥ λ >…

Если ( ) ( ) 1h A h A A= ∧ = , то 2λ является отличным по модулю от других собственных зна-чений. Если же ( ) 1h A = , а ( ) 1h A A∧ > , то у оператора A существуют ( )h A A∧ собственных значений 2 3 ( ) 1, , , h A A∧ +λ λ … λ , равных по абсолютной величине 2λ , каждое из них является про-

стым и они совпадают с корнями ( )h A A∧ -й степени из ( )2h A A∧λ .

Теорема о собственных значениях неразложимой матрицы с J-знакосимметричной ассоциированной. Случай нетранзитивного W. В предыдущем пункте было доказано, что если матрицы A и (2)

WA неотрицательны и неразложимы, и множество W транзитивно, то у оператора A существуют два положительных простых собственных значения 1λ и 2λ . В этом пункте мы покажем, что когда множество W нетранзитивно, спектр оператора A имеет другую структуру (на спектральной окружности | | ( )Aλ = ρ расположены ровно три собственных значения, обра-зующих вершины правильного треугольника).

Т е о р е м а 6. Пусть матрица A линейного оператора : n nA R R→ неотрицательна и не-разложима и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосим- метрична. Пусть множество W, построенное по множеству индексов J, не является транзи-тивным. Тогда у оператора A имеется первое положительное собственное значение ( )Aλ = ρ , которому отвечает положительный собственный вектор 1x . Более того, на спектральной окружности | | ( )Aλ = ρ расположено ровно три собственных значения, все они являются про-стыми и совпадают c корнями 3-й степени из 3( ( ))Aρ . При этом индекс импримитивности

( )h A оператора A совпадает с индексом импримитивности ( )h A A∧ его внешнего квадрата A A∧ и равен трем.

Из теоремы 6 следует утверждение: пусть матрица A линейного оператора : n nA R R→ примитивна и ее ассоциированная матрица второго порядка A(2) неразложима и J-знакосимметрична. Тогда множество W, построенное по множеству индексов J, является транзитивным.

П р и м е р 1. Приведем пример оператора, удовлетворяющего условиям теоремы 6. Пусть оператор 3 3:A R R→ задается матрицей

26

0 0 11 0 0 .0 1 0

⎛ ⎞⎜ ⎟= ⎜ ⎟⎜ ⎟⎝ ⎠

A

Очевидно, такая матрица будет неотрицательной и неразложимой. Вторая ассоциированная матрица в таком случае будет иметь следующий вид:

(2)0 1 00 0 1 .1 0 0

−⎛ ⎞⎜ ⎟= −⎜ ⎟⎜ ⎟⎝ ⎠

A

Очевидно, что матрица A(2) будет J-знакосимметричной и неразложимой. В данном случае множество J состоит из двух индексов 1 и 3, либо из одного индекса 2. Рассмотрим множество W, построенное по множеству индексов J. В него войдут пары (1,2) и (2,3), имеющие в лексикогра-фической нумерации номера 1 и 3, а также пара (3,1), «обратная» к которой пара (1,3) имеет но-мер 2. Такое множество W определяет на множестве индексов {1,2,3} нетранзитивное бинарное отношение (1 2),(2 3),(3 1)≺ ≺ ≺ .

Заключение. Полученные результаты могут быть распространены на случай ядер линейных интегральных операторов, действующих в некоторых идеальных пространствах и в пространстве непрерывных функций.


1. Г а н т м а х е р Ф. Р., К р е й н М. Г. Осцилляционные матрицы и ядра и малые колебания механических систем. М., 1950.

2. Г а н т м а х е р Ф. Р. Теория матриц. М., 1988. 3. Г л а з м а н И. М., Л ю б и ч Ю. И. Конечномерный линейный анализ в задачах. М., 1969.

KUSHEL O. Yu.

[email protected]

SPECTRUM AND APPROXIMATIONS OF ONE CLASS OF IRREDUCIBLE MATRICES

Summary

A new class of matrices with a certain sign-symmetric structure is introduced in this article. Such matrices are named J-sign-symmetric. The spectrum of a nonnegative irreducible matrix is studied under the assumptions that its second compound matrix is J-sign-symmetric and also irreducible. The conditions, when such matrices have complex eigenvalues and when all their eigenvalues are positive, are given. The present article also considers the question, when the approximation of a nonnegative matrix with a J-sign-symmetric compound matrix by strictly positive matrices with strictly J-sign-symmetric compound matrices is possible.

26

0 0 11 0 0 .0 1 0

⎛ ⎞⎜ ⎟= ⎜ ⎟⎜ ⎟⎝ ⎠

A

Очевидно, такая матрица будет неотрицательной и неразложимой. Вторая ассоциированная матрица в таком случае будет иметь следующий вид:

(2)0 1 00 0 1 .1 0 0

−⎛ ⎞⎜ ⎟= −⎜ ⎟⎜ ⎟⎝ ⎠

A

Очевидно, что матрица A(2) будет J-знакосимметричной и неразложимой. В данном случае множество J состоит из двух индексов 1 и 3, либо из одного индекса 2. Рассмотрим множество W, построенное по множеству индексов J. В него войдут пары (1,2) и (2,3), имеющие в лексикогра-фической нумерации номера 1 и 3, а также пара (3,1), «обратная» к которой пара (1,3) имеет но-мер 2. Такое множество W определяет на множестве индексов {1,2,3} нетранзитивное бинарное отношение (1 2),(2 3),(3 1)≺ ≺ ≺ .

Заключение. Полученные результаты могут быть распространены на случай ядер линейных интегральных операторов, действующих в некоторых идеальных пространствах и в пространстве непрерывных функций.


1. Г а н т м а х е р Ф. Р., К р е й н М. Г. Осцилляционные матрицы и ядра и малые колебания механических систем. М., 1950.

2. Г а н т м а х е р Ф. Р. Теория матриц. М., 1988. 3. Г л а з м а н И. М., Л ю б и ч Ю. И. Конечномерный линейный анализ в задачах. М., 1969.

KUSHEL O. Yu.

[email protected]

SPECTRUM AND APPROXIMATIONS OF ONE CLASS OF IRREDUCIBLE MATRICES

Summary

A new class of matrices with a certain sign-symmetric structure is introduced in this article. Such matrices are named J-sign-symmetric. The spectrum of a nonnegative irreducible matrix is studied under the assumptions that its second compound matrix is J-sign-symmetric and also irreducible. The conditions, when such matrices have complex eigenvalues and when all their eigenvalues are positive, are given. The present article also considers the question, when the approximation of a nonnegative matrix with a J-sign-symmetric compound matrix by strictly positive matrices with strictly J-sign-symmetric compound matrices is possible.

27



УДК 511.344:519.852.2

В. А. ШЛЫК

КОМБИНАТОРНЫЕ ОПЕРАЦИИ ПОРОЖДЕНИЯ ВЕРШИН ПОЛИТОПА РАЗБИЕНИЙ ЧИСЕЛ


Белорусский государственный педагогический университет им. Максима Танка, Минск Поступило 17.11.2008

Введение. Разбиением положительного целого числа n называется его представление в виде суммы положительных целых чисел

1 2 ... kn i i i= + + + , 1 21 , ,..., ,ki i i n≤ ≤ (1)

без учета их порядка. Слагаемые, входящие в сумму (1), называются частями разбиения. Изуче-ние разбиений чисел началось в средние века, но первые глубокие теоремы о них принадлежат Эйлеру [1; 2]. В начале XX в. произошел всплеск интереса к этой тематике, который был вызван исследованиями Харди, Литлвуда и Рамануджана [1; 2]. В последние десятилетия наблюдается новое оживление в исследованиях, связанное с развитием техники, использующей таблицы Юнга [3; 4]. Разбиения чисел играют важную роль не только в теории чисел, но и в комбинато-рике, алгебре, теории представлений, математической физике, статистической механике [3]. На протяжении всей истории их изучения они служат источником новых проблем и математических методов.

В работе [5] был предложен полиэдральный подход к изучению множеств разбиений чисел, в [6] он был существенно развит. Основная идея нового подхода заключается в том, что множе-ство разбиений числа n рассматривается как политоп (ограниченный многогранник) в простран-стве n . Переход от множества к политопу вносит в арифметику разбиений геометрию вы- пуклых многогранников и наделяет множество разбиений полиэдральной структурой. Опреде-ляющими элементами этой структуры являются вершины и грани политопа разбиений.

В [6] показано, что политоп nP разбиений числа n представляет собой пирамиду в n , и описаны все его грани максимальной размерности (фасеты). Там же указаны необходимые и, отдельно, достаточные условия для того, чтобы разбиение было вершиной политопа. В [7] проблема описания вершин рассмотрена более детально. Предложен метод построения всех вершин с помощью лифтинга по величине n, при применении которого вершины nP строятся с использованием некоторых уже известных вершин политопов разбиений чисел меньших n. Хотя этот метод не является полиномиальным, он позволяет значительно сократить объем вы-числений по сравнению с полным перебором. В этой же работе установлен критерий предста-вимости заданного разбиения в виде выпуклой комбинации двух других разбиений. С его по-мощью удается распознать многие разбиения, не являющиеся вершинами. Критерий не только обобщает все ранее полученные необходимые условия для того, чтобы данное разбиение явля-лось вершиной, но и приводит к новым необходимым условиям. В частности, показано, что вершины политопа разбиений числа n имеют не более log( 1)n + различных частей.

Вершины политопа разбиений образуют подмножество множества всех разбиений, порож-дающее все множество, поскольку любое разбиение может быть выражено в виде выпуклой комбинации конечного набора вершин. Другими словами, вершины nP составляют своеобразный

27



УДК 511.344:519.852.2

В. А. ШЛЫК

КОМБИНАТОРНЫЕ ОПЕРАЦИИ ПОРОЖДЕНИЯ ВЕРШИН ПОЛИТОПА РАЗБИЕНИЙ ЧИСЕЛ


Белорусский государственный педагогический университет им. Максима Танка, Минск Поступило 17.11.2008

Введение. Разбиением положительного целого числа n называется его представление в виде суммы положительных целых чисел

1 2 ... kn i i i= + + + , 1 21 , ,..., ,ki i i n≤ ≤ (1)

без учета их порядка. Слагаемые, входящие в сумму (1), называются частями разбиения. Изуче-ние разбиений чисел началось в средние века, но первые глубокие теоремы о них принадлежат Эйлеру [1; 2]. В начале XX в. произошел всплеск интереса к этой тематике, который был вызван исследованиями Харди, Литлвуда и Рамануджана [1; 2]. В последние десятилетия наблюдается новое оживление в исследованиях, связанное с развитием техники, использующей таблицы Юнга [3; 4]. Разбиения чисел играют важную роль не только в теории чисел, но и в комбинато-рике, алгебре, теории представлений, математической физике, статистической механике [3]. На протяжении всей истории их изучения они служат источником новых проблем и математических методов.

В работе [5] был предложен полиэдральный подход к изучению множеств разбиений чисел, в [6] он был существенно развит. Основная идея нового подхода заключается в том, что множе-ство разбиений числа n рассматривается как политоп (ограниченный многогранник) в простран-стве n . Переход от множества к политопу вносит в арифметику разбиений геометрию вы- пуклых многогранников и наделяет множество разбиений полиэдральной структурой. Опреде-ляющими элементами этой структуры являются вершины и грани политопа разбиений.

В [6] показано, что политоп nP разбиений числа n представляет собой пирамиду в n , и описаны все его грани максимальной размерности (фасеты). Там же указаны необходимые и, отдельно, достаточные условия для того, чтобы разбиение было вершиной политопа. В [7] проблема описания вершин рассмотрена более детально. Предложен метод построения всех вершин с помощью лифтинга по величине n, при применении которого вершины nP строятся с использованием некоторых уже известных вершин политопов разбиений чисел меньших n. Хотя этот метод не является полиномиальным, он позволяет значительно сократить объем вы-числений по сравнению с полным перебором. В этой же работе установлен критерий предста-вимости заданного разбиения в виде выпуклой комбинации двух других разбиений. С его по-мощью удается распознать многие разбиения, не являющиеся вершинами. Критерий не только обобщает все ранее полученные необходимые условия для того, чтобы данное разбиение явля-лось вершиной, но и приводит к новым необходимым условиям. В частности, показано, что вершины политопа разбиений числа n имеют не более log( 1)n + различных частей.

Вершины политопа разбиений образуют подмножество множества всех разбиений, порож-дающее все множество, поскольку любое разбиение может быть выражено в виде выпуклой комбинации конечного набора вершин. Другими словами, вершины nP составляют своеобразный

28

базис для множества разбиений числа n, поэтому применение полиэдрального подхода позволя-ет избежать построения всех разбиений заданного n, ограничившись только теми, которые явля-ются вершинами политопа nP .

В данной работе показано, что вершинный «базис» множества разбиений может быть уменьшен: нет необходимости знать все вершины nP , поскольку часть вершин можно построить из других при помощи двух простых комбинаторных операций. Суть обеих операций состоит в том, что некоторые части разбиения объединяются в новые, более крупные части. При выпол-нении одной операции новая часть строится из двух различных по величине частей, во втором случае в новую часть объединяются все экземпляры одной части.

Таким образом, если полиэдральный подход к разбиениям чисел привел к выводу, что одни разбиения (вершины) играют более важную роль, чем другие, то результаты данной работы означают, что, с комбинаторной точки зрения, вершины политопа разбиений также неравно-значны – некоторые вершины, мы называем их опорными, более важны, чем другие. Значение полученных результатов усиливает то, что, как показывают вычисления, число опорных вершин существенно меньше числа всех вершин, которое, в свою очередь, намного меньше полного числа разбиений.

В разделе 1 определяется политоп разбиений, вводятся обозначения и приводится используе- мый в дальнейшем критерий представления заданного разбиения в виде выпуклой комбинации двух других разбиений. В разделе 2 вводятся комбинаторные операции укрупнения частей и до-казывается, что их применение к вершинам политопов разбиений снова приводит к вершинам. Вводится понятие опорной вершины и приводятся некоторые численные данные о мощности множества опорных вершин для небольших n. В заключении обсуждаются результаты работы и формулируются вытекающие из них новые задачи.

1. Обозначения, основные понятия и предварительные сведения. При полиэдральном подходе каждому разбиению (1) числа n ставится в соответствие точка

1 2( , ,..., ) nnx x x x= ∈ , i-я координата ,ix 1 ,i n≤ ≤ которой неотрицательна, целочисленна и равна

числу вхождений части i в данное разбиение. Например, разбиению 8 1 1 2 4= + + + соответствует точка 8(2,1,0,1,0,0,0,0)x = ∈ . Таким образом, каждому разбиению x числа n соответствует ска-лярное произведение 1 22 nx x nx+ +…+ . В дальнейшем точка x, соответствующая разбиению (1), отождествляется с этим разбиением и поэтому она также называется разбиением числа n.

В работе используются следующие обозначения: + – множество неотрицательных целых

чисел; [ ]1,m – отрезок целых чисел { }1,2, ... ,m , , 1m∈ > ; x n означает, что nx +∈ является

разбиением числа n; ( )S x – множество { }[1, ] 0ii n x∈ > всех различных частей разбиения x n ;

множество вершин политопа nP обозначается vert nP . Введем в рассмотрение множество всех разбиений числа n

{ }1 2| 2 ... , , 0, 1, ... ,nn n i iT x x x nx n x x i n= ∈ + + + = ∈ ≥ = .

Политоп nnP ⊂ разбиений числа n определяется как выпуклая оболочка всех nx T∈ , т. е.

conv.hulln nP T= .

Напомним, что точка nx∈ , принадлежащая некоторому политопу nP ⊂ , является его вершиной тогда и только тогда, когда ее нельзя представить в виде выпуклой комбинации

1

k jj

jx y

== λ∑ ,

11, 0

kj j

j=λ = λ >∑ , некоторых других точек ,1jy P j k∈ ≤ ≤ . Это относится и к поли-

топу разбиений nP .

28

базис для множества разбиений числа n, поэтому применение полиэдрального подхода позволя-ет избежать построения всех разбиений заданного n, ограничившись только теми, которые явля-ются вершинами политопа nP .

В данной работе показано, что вершинный «базис» множества разбиений может быть уменьшен: нет необходимости знать все вершины nP , поскольку часть вершин можно построить из других при помощи двух простых комбинаторных операций. Суть обеих операций состоит в том, что некоторые части разбиения объединяются в новые, более крупные части. При выпол-нении одной операции новая часть строится из двух различных по величине частей, во втором случае в новую часть объединяются все экземпляры одной части.

Таким образом, если полиэдральный подход к разбиениям чисел привел к выводу, что одни разбиения (вершины) играют более важную роль, чем другие, то результаты данной работы означают, что, с комбинаторной точки зрения, вершины политопа разбиений также неравно-значны – некоторые вершины, мы называем их опорными, более важны, чем другие. Значение полученных результатов усиливает то, что, как показывают вычисления, число опорных вершин существенно меньше числа всех вершин, которое, в свою очередь, намного меньше полного числа разбиений.

В разделе 1 определяется политоп разбиений, вводятся обозначения и приводится используе- мый в дальнейшем критерий представления заданного разбиения в виде выпуклой комбинации двух других разбиений. В разделе 2 вводятся комбинаторные операции укрупнения частей и до-казывается, что их применение к вершинам политопов разбиений снова приводит к вершинам. Вводится понятие опорной вершины и приводятся некоторые численные данные о мощности множества опорных вершин для небольших n. В заключении обсуждаются результаты работы и формулируются вытекающие из них новые задачи.

1. Обозначения, основные понятия и предварительные сведения. При полиэдральном подходе каждому разбиению (1) числа n ставится в соответствие точка

1 2( , ,..., ) nnx x x x= ∈ , i-я координата ,ix 1 ,i n≤ ≤ которой неотрицательна, целочисленна и равна

числу вхождений части i в данное разбиение. Например, разбиению 8 1 1 2 4= + + + соответствует точка 8(2,1,0,1,0,0,0,0)x = ∈ . Таким образом, каждому разбиению x числа n соответствует ска-лярное произведение 1 22 nx x nx+ +…+ . В дальнейшем точка x, соответствующая разбиению (1), отождествляется с этим разбиением и поэтому она также называется разбиением числа n.

В работе используются следующие обозначения: + – множество неотрицательных целых

чисел; [ ]1,m – отрезок целых чисел { }1,2, ... ,m , , 1m∈ > ; x n означает, что nx +∈ является

разбиением числа n; ( )S x – множество { }[1, ] 0ii n x∈ > всех различных частей разбиения x n ;

множество вершин политопа nP обозначается vert nP . Введем в рассмотрение множество всех разбиений числа n

{ }1 2| 2 ... , , 0, 1, ... ,nn n i iT x x x nx n x x i n= ∈ + + + = ∈ ≥ = .

Политоп nnP ⊂ разбиений числа n определяется как выпуклая оболочка всех nx T∈ , т. е.

conv.hulln nP T= .

Напомним, что точка nx∈ , принадлежащая некоторому политопу nP ⊂ , является его вершиной тогда и только тогда, когда ее нельзя представить в виде выпуклой комбинации

1

k jj

jx y

== λ∑ ,

11, 0

kj j

j=λ = λ >∑ , некоторых других точек ,1jy P j k∈ ≤ ≤ . Это относится и к поли-

топу разбиений nP .

29

Установленный в [7] критерий представимости заданного разбиения в виде выпуклой комби-нации двух других разбиений формулируется следующим образом.

Т е о р е м а 1 [7, теорема 5]. Разбиение x числа n есть выпуклая комбинация двух разбиений этого же числа тогда и только тогда, когда существуют два непересекающихся подмножества

1 2,S S множества его различных частей ( )S x и существуют два набора чисел 1;ju u j S+= ∈ ∈ ,

2;kv v k S+= ∈ ∈ , удовлетворяющих соотношениям 1 2

j kj S k S

u j v k∈ ∈

=∑ ∑ , 0 j ju x< ≤ , 0 k kv x< ≤ .

Из теоремы 1 непосредственно вытекает С л е д с т в и е. Для любой вершины x политопа разбиений nP ни одно число [1, ]k n∈ , пред-

ставимое в виде неотрицательной целочисленной комбинации ( )

ii S x

k i∈

= α∑ , ,i i ix+α ∈ α ≤ , ее

различных частей, не является частью вершины x, т. е. ( )k S x∉ . 2. Порождение вершин политопа разбиений из опорных вершин. Введем две операции укрупнения частей разбиения и покажем, что с их помощью из уже из-

вестных вершин можно строить новые вершины политопа nP . О п е р а ц и я 1. Пусть x n и пусть , ( )u v S x∈ , u v≠ , – две его различные части. Для опре-

деленности можно считать, что u vx x≤ . Построить точку , ( ) nu vy C x += ∈ с координатами

0uy = , v v uy x x= − , u v u v uy x x+ += + и j jy x= для [1, ]j n∈ , , ,j u v u v≠ + .

В дальнейшем для упрощения записи будем считать, что ux a= , vx b= . О п е р а ц и я 2. Пусть x разбиение числа n, в которое некоторая часть ( )u S x∈ входит более

одного раза, т. е. 1ux > . Построить точку ( ) nuy C x += ∈ с координатами 0uy = , 1au auy x= +

и j jy x= для [1, ]j n∈ , ,j u au≠ .

Т е о р е м а 2. Пусть вершина x политопа nP содержит различные части , ( )u v S x∈ , u v≠ . Тогда , ( )u vy C x= также является вершиной политопа nP .

Д о к а з а т е л ь с т в о. Убедимся в том, что y n . Действительно,

1 1,, ,

( ) ( )( )n n

i j u vi j

j u v u v

y i y j b a v x a u v+= =

≠ +

= + − + + + =∑ ∑

1, 1, ,

( ) ( )n n

j u v ij i

j u v u v

x j bv av x u v a u v x i n+= =

≠ +

+ − + + + + = =∑ ∑ .

Теперь докажем, что vert ny P∈ . Из следствия вытекает, что 0u vx + = . Предположим от про-

тивного, что vert ny P∉ . Тогда y является выпуклой комбинацией 1

k tt

ty y

== λ∑ ,

11, 0

kt t

t=λ = λ >∑ ,

некоторых разбиений ty n , 1 t k≤ ≤ . Из 0uy = следует, что 0tuy = для всех t. Определим це-

лочисленные точки ,1t nx t k∈ ≤ ≤ , с координатами: t tu u vx y += , t t t

v u v vx y y+= + , 0tu vx + = , t t

j jx y= , , ,j u v u v≠ + .

Все tx являются разбиениями числа n, поскольку

1 1, 1, 1, , , ,

( )n n n nt t t t t t t t t

i j u v j u v u v v ii j j i

j u v u v j u v u v

x i x j x u x v y j y u y y v y i n+ += = = =

≠ + ≠ +

= + + = + + + = =∑ ∑ ∑ ∑ ,

29

Установленный в [7] критерий представимости заданного разбиения в виде выпуклой комби-нации двух других разбиений формулируется следующим образом.

Т е о р е м а 1 [7, теорема 5]. Разбиение x числа n есть выпуклая комбинация двух разбиений этого же числа тогда и только тогда, когда существуют два непересекающихся подмножества

1 2,S S множества его различных частей ( )S x и существуют два набора чисел 1;ju u j S+= ∈ ∈ ,

2;kv v k S+= ∈ ∈ , удовлетворяющих соотношениям 1 2

j kj S k S

u j v k∈ ∈

=∑ ∑ , 0 j ju x< ≤ , 0 k kv x< ≤ .

Из теоремы 1 непосредственно вытекает С л е д с т в и е. Для любой вершины x политопа разбиений nP ни одно число [1, ]k n∈ , пред-

ставимое в виде неотрицательной целочисленной комбинации ( )

ii S x

k i∈

= α∑ , ,i i ix+α ∈ α ≤ , ее

различных частей, не является частью вершины x, т. е. ( )k S x∉ . 2. Порождение вершин политопа разбиений из опорных вершин. Введем две операции укрупнения частей разбиения и покажем, что с их помощью из уже из-

вестных вершин можно строить новые вершины политопа nP . О п е р а ц и я 1. Пусть x n и пусть , ( )u v S x∈ , u v≠ , – две его различные части. Для опре-

деленности можно считать, что u vx x≤ . Построить точку , ( ) nu vy C x += ∈ с координатами

0uy = , v v uy x x= − , u v u v uy x x+ += + и j jy x= для [1, ]j n∈ , , ,j u v u v≠ + .

В дальнейшем для упрощения записи будем считать, что ux a= , vx b= . О п е р а ц и я 2. Пусть x разбиение числа n, в которое некоторая часть ( )u S x∈ входит более

одного раза, т. е. 1ux > . Построить точку ( ) nuy C x += ∈ с координатами 0uy = , 1au auy x= +

и j jy x= для [1, ]j n∈ , ,j u au≠ .

Т е о р е м а 2. Пусть вершина x политопа nP содержит различные части , ( )u v S x∈ , u v≠ . Тогда , ( )u vy C x= также является вершиной политопа nP .

Д о к а з а т е л ь с т в о. Убедимся в том, что y n . Действительно,

1 1,, ,

( ) ( )( )n n

i j u vi j

j u v u v

y i y j b a v x a u v+= =

≠ +

= + − + + + =∑ ∑

1, 1, ,

( ) ( )n n

j u v ij i

j u v u v

x j bv av x u v a u v x i n+= =

≠ +

+ − + + + + = =∑ ∑ .

Теперь докажем, что vert ny P∈ . Из следствия вытекает, что 0u vx + = . Предположим от про-

тивного, что vert ny P∉ . Тогда y является выпуклой комбинацией 1

k tt

ty y

== λ∑ ,

11, 0

kt t

t=λ = λ >∑ ,

некоторых разбиений ty n , 1 t k≤ ≤ . Из 0uy = следует, что 0tuy = для всех t. Определим це-

лочисленные точки ,1t nx t k∈ ≤ ≤ , с координатами: t tu u vx y += , t t t

v u v vx y y+= + , 0tu vx + = , t t

j jx y= , , ,j u v u v≠ + .

Все tx являются разбиениями числа n, поскольку

1 1, 1, 1, , , ,

( )n n n nt t t t t t t t t

i j u v j u v u v v ii j j i

j u v u v j u v u v

x i x j x u x v y j y u y y v y i n+ += = = =

≠ + ≠ +

= + + = + + + = =∑ ∑ ∑ ∑ ,

30

где последнее равенство следует из того, что ty n . Для x получаем представление в виде вы-

пуклой комбинации 1

k tt

tx x

== λ∑ , так как

t tt u t u v u v u

t tx y y x+ +λ = λ = =∑ ∑ ;

( ) ( )t t t t tt v t u v v t u v t v u v v v

t t t tx y y y y y y a b a b x+ + +λ = λ + = λ + λ = + = + − = =∑ ∑ ∑ ∑ ;

0 0tt u v t u v

t tx x+ +λ = λ = =∑ ∑ ;

для , ,j u v u v≠ + имеем t tt j t j j j

t tx y y xλ = λ = =∑ ∑ .

Но это противоречит тому, что x вершина nP , и значит, y действительно вершина nP . Теорема доказана.

Т е о р е м а 3. Пусть вершина x политопа nP содержит часть ( )u S x∈ более одного раза, т. е. 1ux a= > . Тогда ( )uy C x= также является вершиной политопа nP .

Д о к а з а т е л ь с т в о. Из следствия получаем, что 0aux = и, значит, 1auy = . Как и в пре-дыдущей теореме, проверим, что y n . В самом деле,

1 1, 1, 1, ,

n n n ni j j u i

i j j ij u au j u au

y i y j au x j x u x i n= = = =

≠ ≠

= + = + = =∑ ∑ ∑ ∑ .

Покажем, что vert ny P∈ . Предположим от противного, что vert ny P∉ . Тогда y является выпук-

лой комбинацией 1

k tt

ty y

== λ∑ ,

11, 0

kt t

t=λ = λ >∑ , некоторых разбиений ,1ty t k≤ ≤ , числа n. Опре-

делим целочисленные точки ,1t nx t k+∈ ≤ ≤ , с координатами t tu aux ay= , 0t

aux = , t tj jx y= ,

,j u au≠ , для всех t. Все tx являются разбиениями числа n, поскольку

1 1, 1, 1, ,

n n n nt t t t t ti j u j au i


x i x j x u y j ay u y i n= = = =

≠ ≠

= + = + = =∑ ∑ ∑ ∑ ,

где последнее равенство следует из того, что y n . Для x получаем представление 1

k tt

tx x

== λ∑ ,

так как t t t

t u t au t au au ut t t

x ay a y ay a xλ = λ = λ = = =∑ ∑ ∑ ;

0 0tt au t au

t tx xλ = λ ⋅ = =∑ ∑ ;

для ,j u au≠ имеем t tt j t j j j

t tx y y xλ = λ = =∑ ∑ .

Таким образом, мы получили, что разбиение x является выпуклой комбинацией разбиений ,1tx t k≤ ≤ , но это противоречит тому, что x вершина nP . Теорема доказана. Проиллюстрируем применение операций укрупнения частей разбиений на примере политопа 6P .

Согласно [6], из 11 разбиений числа 6 вершинами 6P являются следующие 7 разбиений:

1 (6,0,0,0,0,0)x = , 2 (2,0,0,1,0,0)x = , 3 (1,0,0,0,1,0)x = , 4 (0,3,0,0,0,0)x = , 5 (0,1,0,1,0,0)x = , 6 (0,0,2,0,0,0)x = , 7 (0,0,0,0,0,1)x = .

30

где последнее равенство следует из того, что ty n . Для x получаем представление в виде вы-

пуклой комбинации 1

k tt

tx x

== λ∑ , так как

t tt u t u v u v u

t tx y y x+ +λ = λ = =∑ ∑ ;

( ) ( )t t t t tt v t u v v t u v t v u v v v

t t t tx y y y y y y a b a b x+ + +λ = λ + = λ + λ = + = + − = =∑ ∑ ∑ ∑ ;

0 0tt u v t u v

t tx x+ +λ = λ = =∑ ∑ ;

для , ,j u v u v≠ + имеем t tt j t j j j

t tx y y xλ = λ = =∑ ∑ .

Но это противоречит тому, что x вершина nP , и значит, y действительно вершина nP . Теорема доказана.

Т е о р е м а 3. Пусть вершина x политопа nP содержит часть ( )u S x∈ более одного раза, т. е. 1ux a= > . Тогда ( )uy C x= также является вершиной политопа nP .

Д о к а з а т е л ь с т в о. Из следствия получаем, что 0aux = и, значит, 1auy = . Как и в пре-дыдущей теореме, проверим, что y n . В самом деле,

1 1, 1, 1, ,

n n n ni j j u i


y i y j au x j x u x i n= = = =

≠ ≠

= + = + = =∑ ∑ ∑ ∑ .

Покажем, что vert ny P∈ . Предположим от противного, что vert ny P∉ . Тогда y является выпук-

лой комбинацией 1

k tt

ty y

== λ∑ ,

11, 0

kt t

t=λ = λ >∑ , некоторых разбиений ,1ty t k≤ ≤ , числа n. Опре-

делим целочисленные точки ,1t nx t k+∈ ≤ ≤ , с координатами t tu aux ay= , 0t

aux = , t tj jx y= ,

,j u au≠ , для всех t. Все tx являются разбиениями числа n, поскольку

1 1, 1, 1, ,

n n n nt t t t t ti j u j au i


x i x j x u y j ay u y i n= = = =

≠ ≠

= + = + = =∑ ∑ ∑ ∑ ,

где последнее равенство следует из того, что y n . Для x получаем представление 1

k tt

tx x

== λ∑ ,

так как t t t

t u t au t au au ut t t

x ay a y ay a xλ = λ = λ = = =∑ ∑ ∑ ;

0 0tt au t au

t tx xλ = λ ⋅ = =∑ ∑ ;

для ,j u au≠ имеем t tt j t j j j

t tx y y xλ = λ = =∑ ∑ .

Таким образом, мы получили, что разбиение x является выпуклой комбинацией разбиений ,1tx t k≤ ≤ , но это противоречит тому, что x вершина nP . Теорема доказана. Проиллюстрируем применение операций укрупнения частей разбиений на примере политопа 6P .

Согласно [6], из 11 разбиений числа 6 вершинами 6P являются следующие 7 разбиений:

1 (6,0,0,0,0,0)x = , 2 (2,0,0,1,0,0)x = , 3 (1,0,0,0,1,0)x = , 4 (0,3,0,0,0,0)x = , 5 (0,1,0,1,0,0)x = , 6 (0,0,2,0,0,0)x = , 7 (0,0,0,0,0,1)x = .

31

Применив операцию 1 к 2x , получим 3x , а из 3x и 5x – вершину 7x . С помощью операции 2 из вершины 2x получим 5x , а из 4x и 6x снова получим вершину 7x . С другой стороны, легко убедиться в том, что ни одну из вершин 1x , 2x , 3x , 6x невозможно получить из какой-либо другой вершины с помощью этих операций. Таким образом, все вершины политопа 6P можно

получить из 4 вершин 1x , 2x , 3x , 6x , и этот набор минимален по включению. Естественно ввести следующее определение. О п р е д е л е н и е. Назовем вершину политопа nP опорной, если ее нельзя получить в ре-

зультате применения операции укрупнения частей к какой-либо другой вершине этого политопа. Из вышесказанного следует, что вершины 1x , 2x , 3x , 6x являются опорными для 6n = . Количественные данные о числах разбиений, вершин и опорных вершин политопов разбие-

ний некоторых чисел представлены в таблице.

Числа разбиений, вершин и опорных вершин политопов разбиений для n = 6, 10, 20

n 6 10 20

# разбиений 11 42 627

# вершин 7 19 99

# опорных вершин 4 9 27

Из таблицы видно, что если для 6n = доля опорных вершин составляет 36 % от множества

всех разбиений, то для 10n = она снижается до 21 %, а в последнем случае падает почти до 4 %. Отношение числа опорных вершин к числу всех вершин, как легко заметить, тоже быстро уменьшается с ростом n.

Заключение. Для описания большинства известных политопов через его вершины необхо-димо знать полный набор вершин. Результаты работы показывают, что в случае политопа раз-биений имеет место необычная ситуация. Комбинаторные свойства разбиений позволяют избе-жать вычисления всех вершин nP , ограничившись поиском только тех, которые являются опор-ными. Все остальные вершины можно построить из них с помощью последовательного применения предложенных в работе операций укрупнения частей. Все разбиения числа n можно затем получить из вершин nP , вычислив все целочисленные точки n , являющиеся выпуклыми комбинациями вершин.

Результаты работы приводят к новым, на наш взгляд, интересным вопросам о множествах разбиений чисел. Сформулируем некоторые из них. Чем отличаются опорные вершины от не-опорных, как построить множество опорных вершин для заданного n, какова мощность этого множества? Можно ли еще больше сократить множество опорных вершин, воспользовавшись, например, какими-нибудь другими комбинаторными операциями над разбиениями? Мы остав-ляем эти вопросы пока открытыми в качестве возможных направлений дальнейших исследований.

Автор благодарит В. Б. Приезжева за полезное обсуждение работы.


1. Э н д р ю с Г. Теория разбиений. М., 1982. 2. Х а р д и Г. Двенадцать лекций о Рамануджане. М., 2002. 3. С т е н л и Р. Перечислительная комбинаторика. Деревья, производящие функции и симметрические функции.

М., 2005. 4. Ф у л т о н У. Таблицы Юнга и их приложения к теории представлений и геометрии. М., 2006. 5. Ш л ы к В. А. // Весцi АН Беларусi. Сер. фiз.-мат. навук. 1996. № 3. С. 89–92. 6. S h l y k V. A. // Europ. J. Combinatorics. 2005. Vol. 26, N 8. P. 1139–1153. 7. Ш л ы к В. А. // Докл. НАН Беларуси. 2008. Т. 52, № 3. С. 5–10.

31

Применив операцию 1 к 2x , получим 3x , а из 3x и 5x – вершину 7x . С помощью операции 2 из вершины 2x получим 5x , а из 4x и 6x снова получим вершину 7x . С другой стороны, легко убедиться в том, что ни одну из вершин 1x , 2x , 3x , 6x невозможно получить из какой-либо другой вершины с помощью этих операций. Таким образом, все вершины политопа 6P можно

получить из 4 вершин 1x , 2x , 3x , 6x , и этот набор минимален по включению. Естественно ввести следующее определение. О п р е д е л е н и е. Назовем вершину политопа nP опорной, если ее нельзя получить в ре-

зультате применения операции укрупнения частей к какой-либо другой вершине этого политопа. Из вышесказанного следует, что вершины 1x , 2x , 3x , 6x являются опорными для 6n = . Количественные данные о числах разбиений, вершин и опорных вершин политопов разбие-

ний некоторых чисел представлены в таблице.

Числа разбиений, вершин и опорных вершин политопов разбиений для n = 6, 10, 20

n 6 10 20

# разбиений 11 42 627

# вершин 7 19 99

# опорных вершин 4 9 27

Из таблицы видно, что если для 6n = доля опорных вершин составляет 36 % от множества

всех разбиений, то для 10n = она снижается до 21 %, а в последнем случае падает почти до 4 %. Отношение числа опорных вершин к числу всех вершин, как легко заметить, тоже быстро уменьшается с ростом n.

Заключение. Для описания большинства известных политопов через его вершины необхо-димо знать полный набор вершин. Результаты работы показывают, что в случае политопа раз-биений имеет место необычная ситуация. Комбинаторные свойства разбиений позволяют избе-жать вычисления всех вершин nP , ограничившись поиском только тех, которые являются опор-ными. Все остальные вершины можно построить из них с помощью последовательного применения предложенных в работе операций укрупнения частей. Все разбиения числа n можно затем получить из вершин nP , вычислив все целочисленные точки n , являющиеся выпуклыми комбинациями вершин.

Результаты работы приводят к новым, на наш взгляд, интересным вопросам о множествах разбиений чисел. Сформулируем некоторые из них. Чем отличаются опорные вершины от не-опорных, как построить множество опорных вершин для заданного n, какова мощность этого множества? Можно ли еще больше сократить множество опорных вершин, воспользовавшись, например, какими-нибудь другими комбинаторными операциями над разбиениями? Мы остав-ляем эти вопросы пока открытыми в качестве возможных направлений дальнейших исследований.

Автор благодарит В. Б. Приезжева за полезное обсуждение работы.


1. Э н д р ю с Г. Теория разбиений. М., 1982. 2. Х а р д и Г. Двенадцать лекций о Рамануджане. М., 2002. 3. С т е н л и Р. Перечислительная комбинаторика. Деревья, производящие функции и симметрические функции.

М., 2005. 4. Ф у л т о н У. Таблицы Юнга и их приложения к теории представлений и геометрии. М., 2006. 5. Ш л ы к В. А. // Весцi АН Беларусi. Сер. фiз.-мат. навук. 1996. № 3. С. 89–92. 6. S h l y k V. A. // Europ. J. Combinatorics. 2005. Vol. 26, N 8. P. 1139–1153. 7. Ш л ы к В. А. // Докл. НАН Беларуси. 2008. Т. 52, № 3. С. 5–10.

32

SHLYK V. A.

[email protected]

COMBINATORIAL OPERATIONS FOR GENERATING VERTICES OF INTEGER PARTITION POLYTOPES

Summary

The vertices of the integer partition polytope of a given integer form a generating subset for a set of all partitions and thus constitute a kind of basis for the latter set relative to taking convex combinations. We show that this "basis" can be considerably reduced. We introduce two combinatorial operations on partitions that recursively generate all vertices starting from the set of support vertices. The essence of the both operations is that some parts of a partition are combined into a new bigger part. So, we show that, from the combinatorial point of view, the vertices of the integer partition polytope are of different importance. The calculation testifies to the number of support vertices being considerably less than the number of vertices, which in its turn, is much less than the total number of partitions.

32

SHLYK V. A.

[email protected]

COMBINATORIAL OPERATIONS FOR GENERATING VERTICES OF INTEGER PARTITION POLYTOPES

Summary

The vertices of the integer partition polytope of a given integer form a generating subset for a set of all partitions and thus constitute a kind of basis for the latter set relative to taking convex combinations. We show that this "basis" can be considerably reduced. We introduce two combinatorial operations on partitions that recursively generate all vertices starting from the set of support vertices. The essence of the both operations is that some parts of a partition are combined into a new bigger part. So, we show that, from the combinatorial point of view, the vertices of the integer partition polytope are of different importance. The calculation testifies to the number of support vertices being considerably less than the number of vertices, which in its turn, is much less than the total number of partitions.

33



УДК 517.518.832

П. П. ЗАБРЕЙКО1, Ю. В. КОРОЦ2

АНАЛИЗ НЕЯВНЫХ ПОСЛЕДОВАТЕЛЬНЫХ ПРИБЛИЖЕНИЙ

(Представлено членом-корреспондентом В. В. Гороховиком) 1Институт математики НАН Беларуси, Минск 2Белорусский государственный университет, Минск Поступило 03.12.2008

1. Неявные последовательные приближения. Неявные последовательные приближения обычно возникают в связи с анализом уравнения

x = Ax, (1)

где оператор ( )A ⋅ имеет так называемое диагональное представление Ax = D(x,x). Другими сло-вами рассматривается уравнение

x = D(x,x), (2)

где ( , )D ⋅ ⋅ – нелинейный оператор, зависящий от двух переменных. Обычно предполагается, что

оператор ( , )D ⋅ ⋅ определен на [ ] [ ]0 0, ,B x R B x R× , где [ ] { }0 0, :B x R x x x R= − ≤ – шар из банахо-вого пространства Х, а значения оператора ( , )D ⋅ ⋅ лежат в пространстве Х. В ряде случаев урав-нение

y = D(x,y) (3)

разрешимо относительно второй переменной, а значит оно решается по переменной у

y = Sx. (4)

Тогда разрешимость уравнения (2) оказывается эквивалентной разрешимости уравнения

х = Sx. (5)

Если уравнение (5) решается методом последовательных приближений

xn+1 = Sxn (n = 0,1,2,…),

то соответствующие последовательные приближения в терминах оператора ( , )D ⋅ ⋅ определяются при помощи равенства

xn+1 = D(xn, xn+1) (n = 0,1,2,…).

Обычно оператор S в явном виде неизвестен и таким образом представляет интерес анализ последовательных приближений, определенных непосредственно в терминах оператора ( , )D ⋅ ⋅ . Так, определенные приближения принято называть неявными последовательными приближе-ниями. Из вышеизложенного следует, что такой анализ может производиться в два этапа. На первом устанавливается существование и свойства оператора ( )S ⋅ , определяемого уравнением (3), на втором исследуются обычные последовательные приближения для оператора ( )S ⋅ . В дан-ном сообщении рассматривается случай, когда разрешимость уравнения (3) устанавливается ме-тодом последовательных приближений и разрешимостью уравнения (5).

33



УДК 517.518.832

П. П. ЗАБРЕЙКО1, Ю. В. КОРОЦ2

АНАЛИЗ НЕЯВНЫХ ПОСЛЕДОВАТЕЛЬНЫХ ПРИБЛИЖЕНИЙ

(Представлено членом-корреспондентом В. В. Гороховиком) 1Институт математики НАН Беларуси, Минск 2Белорусский государственный университет, Минск Поступило 03.12.2008

1. Неявные последовательные приближения. Неявные последовательные приближения обычно возникают в связи с анализом уравнения

x = Ax, (1)

где оператор ( )A ⋅ имеет так называемое диагональное представление Ax = D(x,x). Другими сло-вами рассматривается уравнение

x = D(x,x), (2)

где ( , )D ⋅ ⋅ – нелинейный оператор, зависящий от двух переменных. Обычно предполагается, что

оператор ( , )D ⋅ ⋅ определен на [ ] [ ]0 0, ,B x R B x R× , где [ ] { }0 0, :B x R x x x R= − ≤ – шар из банахо-вого пространства Х, а значения оператора ( , )D ⋅ ⋅ лежат в пространстве Х. В ряде случаев урав-нение

y = D(x,y) (3)

разрешимо относительно второй переменной, а значит оно решается по переменной у

y = Sx. (4)

Тогда разрешимость уравнения (2) оказывается эквивалентной разрешимости уравнения

х = Sx. (5)

Если уравнение (5) решается методом последовательных приближений

xn+1 = Sxn (n = 0,1,2,…),

то соответствующие последовательные приближения в терминах оператора ( , )D ⋅ ⋅ определяются при помощи равенства

xn+1 = D(xn, xn+1) (n = 0,1,2,…).

Обычно оператор S в явном виде неизвестен и таким образом представляет интерес анализ последовательных приближений, определенных непосредственно в терминах оператора ( , )D ⋅ ⋅ . Так, определенные приближения принято называть неявными последовательными приближе-ниями. Из вышеизложенного следует, что такой анализ может производиться в два этапа. На первом устанавливается существование и свойства оператора ( )S ⋅ , определяемого уравнением (3), на втором исследуются обычные последовательные приближения для оператора ( )S ⋅ . В дан-ном сообщении рассматривается случай, когда разрешимость уравнения (3) устанавливается ме-тодом последовательных приближений и разрешимостью уравнения (5).

34

2. Принцип мажорируемых отображений. Рассмотрим уравнение (1)

x = Ax,

где ( )A ⋅ – оператор, определенный в шаре [ ] { }0 0, :B x R x x x R= − ≤ некоторого банахового пространства Х 0( )x X∈ .

Пусть оператор ( )A ⋅ удовлетворяет условию Липшица вида

1 2 1 2

1 0 2 0

( )

( , , 0 , ( ) 0).

Ax Ax k r x x

x x x x r r R k r

− ≤ −

− − ≤ < ≤ ≥ (6)

Пусть далее

0 0 ,a Ax x= − (7)

0 0

( ) ( ) и ( ) ( ) .r r

a r a k t dt a r a k t dt= + = −∫ ∫ (8)

Заметим, что в случае существования неподвижной точки функции a(r) на интервале [0,R] функция ( )a r очевидно также будет иметь неподвижную точку на интервале [0,R]. Действи-тельно, если график функции a(r) пересекает биссектрису в некоторой точке с абсциссой [ ]* 0, ,r R∈ то график функции

( )a r , проходящий через точку (0, (0)) (0, ),a a= лежащую над

прямой r r= , и через точку * *( , ( )),r a r лежащую под прямой

r r= (в силу того, что функция ( )a r симметрична функции

a(r) относительно прямой r a= ), пересекается с биссектрисой в некоторой точке *r (рис. 1).

Обозначим через *0 *[ , , ]R x r r кольцо

* *0 * * 0[ , , ] { : }.R x r r x r x x r= ≤ − ≤

Верна следующая Т е о р е м а 1. Пусть оператор )(⋅A удовлетворяет на шаре [ ]RxB ,0 условию Липшица (6)

с некоторой неотрицательной на [ ]R,0 функцией k(r), функция )(⋅a , определенная в (8), имеет

неподвижные точки на интервале [ ]R,0 , наименьшая из которых точка *r , и функция ( )a ⋅ оп-ределена равенством (8), *r – ее неподвижная точка. Тогда

1) оператор )(⋅A имеет неподвижную точку * *0 *, ,x R x r r⎡ ⎤∈ ⎣ ⎦ ;

2) последовательные приближения { }nξ : 1 ( 0,1,...),n nA n+ξ = ξ = начатые с любого началь-

ного приближения [ ]0 0 ,B x rξ ∈ , где * ,r r R≤ < определены для любого n и сходятся к непод-

вижной точке *x ; 3) справедлива оценка

* * ( ) ( )0 0( ) 2 (0) ( 0,1,...).n n

nx r a x a n− ξ ≤ + ξ − − =

Утверждение аналогичное теореме 1 (с заменой кольца *0 *, ,R x r r⎡ ⎤

⎣ ⎦ на шар *0 ,B x r⎡ ⎤

⎣ ⎦ , где *r r R≤ < ) доказано в [4]. Поэтому для доказательства теоремы 1 достаточно установить, что

Рис. 1

34

2. Принцип мажорируемых отображений. Рассмотрим уравнение (1)

x = Ax,

где ( )A ⋅ – оператор, определенный в шаре [ ] { }0 0, :B x R x x x R= − ≤ некоторого банахового пространства Х 0( )x X∈ .

Пусть оператор ( )A ⋅ удовлетворяет условию Липшица вида

1 2 1 2

1 0 2 0

( )

( , , 0 , ( ) 0).

Ax Ax k r x x

x x x x r r R k r

− ≤ −

− − ≤ < ≤ ≥ (6)

Пусть далее

0 0 ,a Ax x= − (7)

0 0

( ) ( ) и ( ) ( ) .r r

a r a k t dt a r a k t dt= + = −∫ ∫ (8)

Заметим, что в случае существования неподвижной точки функции a(r) на интервале [0,R] функция ( )a r очевидно также будет иметь неподвижную точку на интервале [0,R]. Действи-тельно, если график функции a(r) пересекает биссектрису в некоторой точке с абсциссой [ ]* 0, ,r R∈ то график функции

( )a r , проходящий через точку (0, (0)) (0, ),a a= лежащую над

прямой r r= , и через точку * *( , ( )),r a r лежащую под прямой

r r= (в силу того, что функция ( )a r симметрична функции

a(r) относительно прямой r a= ), пересекается с биссектрисой в некоторой точке *r (рис. 1).

Обозначим через *0 *[ , , ]R x r r кольцо

* *0 * * 0[ , , ] { : }.R x r r x r x x r= ≤ − ≤

Верна следующая Т е о р е м а 1. Пусть оператор )(⋅A удовлетворяет на шаре [ ]RxB ,0 условию Липшица (6)

с некоторой неотрицательной на [ ]R,0 функцией k(r), функция )(⋅a , определенная в (8), имеет

неподвижные точки на интервале [ ]R,0 , наименьшая из которых точка *r , и функция ( )a ⋅ оп-ределена равенством (8), *r – ее неподвижная точка. Тогда

1) оператор )(⋅A имеет неподвижную точку * *0 *, ,x R x r r⎡ ⎤∈ ⎣ ⎦ ;

2) последовательные приближения { }nξ : 1 ( 0,1,...),n nA n+ξ = ξ = начатые с любого началь-

ного приближения [ ]0 0 ,B x rξ ∈ , где * ,r r R≤ < определены для любого n и сходятся к непод-

вижной точке *x ; 3) справедлива оценка

* * ( ) ( )0 0( ) 2 (0) ( 0,1,...).n n

nx r a x a n− ξ ≤ + ξ − − =

Утверждение аналогичное теореме 1 (с заменой кольца *0 *, ,R x r r⎡ ⎤

⎣ ⎦ на шар *0 ,B x r⎡ ⎤

⎣ ⎦ , где *r r R≤ < ) доказано в [4]. Поэтому для доказательства теоремы 1 достаточно установить, что

Рис. 1

35

неподвижная точка оператора )(⋅A не может лежать в шаре *0 ,B x r⎡ ⎤

⎣ ⎦ . Обозначим *0 0x x r− =

и оценим *0x x− снизу:

* * *0 0 0 0 0 ,x x Ax x Ax x Ax Ax− = − ≥ − − − (9)

где для *0 0x x r− = в силу леммы 1 из [4] справедливо

0*

00

( ) .r

Ax Ax k t dt− ≤ ∫

Тогда, используя равенство (7), из (9) получим 0

*0 0

0( ) ( ).

rx x a k t dt a r− ≥ − =∫

Отсюда вытекает следующая оценка:

0 0( ) .a r r≤ (10)

Очевидно, что неравенство (10) выполняется для всех 0 *,r r≥ где *,r как оговаривалось ра-нее, – точка пересечения графика функции ( )r a r= и биссектрисы r r= . Отсюда немедленно следует, что в шаре [ ]0 *,B x r оператор )(⋅A неподвижных точек не имеет.

Таким образом, можно утверждать, что ** 0 ,r r r≤ < иными словами неподвижная точка *x

оператора )(⋅A находится в кольце *0 *, ,R x r r⎡ ⎤

⎣ ⎦ .

Теорема 1 позволяет достаточно точно оценить радиусы шаров существования, единственно-сти, а также несуществования решения уравнения x = Ax.

3. Анализ неявных последовательных приближений. Вернемся к рассмотрению уравнения (2), где ( , )D ⋅ ⋅ – оператор, определенный на [ ] [ ]0 0, ,B x R B x R× , а значения оператора ( , )D ⋅ ⋅ ле-жат в пространстве Х. Во многих случаях уравнение (3) оказывается разрешимым относительно второй переменной, а значит, оно решается по переменной у, где из (4) вытекает y = Sx.

Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условию Липшица на [ ] [ ]0 0, ,B x R B x R× по второй пе-ременной, т. е. выполняется неравенство

[ ] [ ]

1 2 1 2

0 1 2 0

( , ) ( ( , ) ( , )

( , , , , , 0 , ),

D x y D x y r y y

x B x r y y B x r R

− ≤ β ρ −

∈ ∈ ρ ≤ ρ ≤ (11)

где функция ( , )rβ ρ неотрицательна, неубывающая и непрерывна на [ ] [ ]0, 0,R R× . Далее обозначим

[ ]00 0

, 0( ) sup ( , ) , ( , ) ( ) ( , ) .

x B x rr D x x x a r r r t dt

ρ

∈η = − ρ = η + β∫

Из теоремы 1 в рассматриваемом случае вытекает Л е м м а 1. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условию (11) и числа r и ρ удовлетворяют

неравенству ( ; ) (0 , 0 ).a r r R Rρ ≤ ρ ≤ ≤ ≤ ρ ≤ Тогда для каждого [ ]0 ,x B x r∈ уравнение y = D(x,y) в шаре [ ]0 ,B x ρ имеет единственное решение y = Sx.

Лемма 1 позволяет оценить радиус r наибольшего шара с центром в точке x0, для которого уравнение (3) оказывается разрешимым в некотором шаре радиуса ρ с центром в точке x0, т. е. на шаре какого максимального радиуса определен оператор S. Каждая из функций ( ; )a r ⋅ не- прерывна на (0, ]R и стремится к бесконечности при 0ρ→ , поэтому функция ( ; )a r ⋅ достигает наименьшего значения на [0, ]R , а значит, определена функция

35

неподвижная точка оператора )(⋅A не может лежать в шаре *0 ,B x r⎡ ⎤

⎣ ⎦ . Обозначим *0 0x x r− =

и оценим *0x x− снизу:

* * *0 0 0 0 0 ,x x Ax x Ax x Ax Ax− = − ≥ − − − (9)

где для *0 0x x r− = в силу леммы 1 из [4] справедливо

0*

00

( ) .r

Ax Ax k t dt− ≤ ∫

Тогда, используя равенство (7), из (9) получим 0

*0 0

0( ) ( ).

rx x a k t dt a r− ≥ − =∫

Отсюда вытекает следующая оценка:

0 0( ) .a r r≤ (10)

Очевидно, что неравенство (10) выполняется для всех 0 *,r r≥ где *,r как оговаривалось ра-нее, – точка пересечения графика функции ( )r a r= и биссектрисы r r= . Отсюда немедленно следует, что в шаре [ ]0 *,B x r оператор )(⋅A неподвижных точек не имеет.

Таким образом, можно утверждать, что ** 0 ,r r r≤ < иными словами неподвижная точка *x

оператора )(⋅A находится в кольце *0 *, ,R x r r⎡ ⎤

⎣ ⎦ .

Теорема 1 позволяет достаточно точно оценить радиусы шаров существования, единственно-сти, а также несуществования решения уравнения x = Ax.

3. Анализ неявных последовательных приближений. Вернемся к рассмотрению уравнения (2), где ( , )D ⋅ ⋅ – оператор, определенный на [ ] [ ]0 0, ,B x R B x R× , а значения оператора ( , )D ⋅ ⋅ ле-жат в пространстве Х. Во многих случаях уравнение (3) оказывается разрешимым относительно второй переменной, а значит, оно решается по переменной у, где из (4) вытекает y = Sx.

Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условию Липшица на [ ] [ ]0 0, ,B x R B x R× по второй пе-ременной, т. е. выполняется неравенство

[ ] [ ]

1 2 1 2

0 1 2 0

( , ) ( ( , ) ( , )

( , , , , , 0 , ),

D x y D x y r y y

x B x r y y B x r R

− ≤ β ρ −

∈ ∈ ρ ≤ ρ ≤ (11)

где функция ( , )rβ ρ неотрицательна, неубывающая и непрерывна на [ ] [ ]0, 0,R R× . Далее обозначим

[ ]00 0

, 0( ) sup ( , ) , ( , ) ( ) ( , ) .

x B x rr D x x x a r r r t dt

ρ

∈η = − ρ = η + β∫

Из теоремы 1 в рассматриваемом случае вытекает Л е м м а 1. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условию (11) и числа r и ρ удовлетворяют

неравенству ( ; ) (0 , 0 ).a r r R Rρ ≤ ρ ≤ ≤ ≤ ρ ≤ Тогда для каждого [ ]0 ,x B x r∈ уравнение y = D(x,y) в шаре [ ]0 ,B x ρ имеет единственное решение y = Sx.

Лемма 1 позволяет оценить радиус r наибольшего шара с центром в точке x0, для которого уравнение (3) оказывается разрешимым в некотором шаре радиуса ρ с центром в точке x0, т. е. на шаре какого максимального радиуса определен оператор S. Каждая из функций ( ; )a r ⋅ не- прерывна на (0, ]R и стремится к бесконечности при 0ρ→ , поэтому функция ( ; )a r ⋅ достигает наименьшего значения на [0, ]R , а значит, определена функция

36

0 0 0( ) min ( ; ) min ( ) ( , ) .

R Rr a r r r t dt

ρ

≤ρ≤ ≤ρ≤

⎧ ⎫⎪ ⎪χ = ρ = η + β⎨ ⎬⎪ ⎪⎩ ⎭

∫

Нетрудно видеть, что эта функция неубывающая, так как и ( )rη и ( , )rβ ρ не убывают по пере-менной r. Функция ( )rχ ограничена сверху по крайней мере R в силу выполнения условий лем-мы 1. Поэтому существует максимальный промежуток *[0, ]R , для которого выполняется соот-ношение *( ) (0 )r R r Rχ ≤ ≤ ≤ . По определению, при любом *[0, ]r R∈ существует 0ρ > , для ко-торого уравнение ( ; )a r ρ = ρ разрешимо и, тем самым, на каждом из шаров [ ]0 ,B x r определен оператор ( )S ⋅ ; тем самым оператор ( )S ⋅ определен и на их объединении, которое совпадает

с шаром *0 ,B x R⎡ ⎤

⎣ ⎦ .

Обозначим наименьший корень уравнения ( ; )a r ρ = ρ через * ( )rρ = ψ . Так на рис. 2 изображены три кривые ( , )a rρ = ρ , в ко-

торых *1 20 .r R r≤ ≤ < Оператор ( )S ⋅ определен для всех

[ ]0 ,x B x r∈ , где *0,r R⎡ ⎤∈⎣ ⎦ , т. е. в частности при r = r1,

r = R* оператор ( )S ⋅ определен на шаре [ ]0 ,B x r , и не опре-делен на том же шаре при r = r2.

Таким образом верна следующая Л е м м а 2. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет ус-

ловию (11). Тогда на шаре *0 ,B x R⎡ ⎤

⎣ ⎦ определен оператор

( )S ⋅ , для которого справедливо равенство Sx = D(x,Sx); бо-лее того, этот оператор удовлетворяет неравенству

*0 0( ) ( , 0 ).Sx x r x x r r R− ≤ ψ − ≤ ≤ ≤

Леммы 1 и 2 означают, что оператор ( )S ⋅ определен на шаре *0 ,B x R⎡ ⎤

⎣ ⎦ , а также, что

[ ] [ ] *0 0, , ( ) (0 ).SB x r B x r r R⊆ ψ ≤ ≤

Пусть теперь оператор ( , )D ⋅ ⋅ удовлетворяет условию Липшица на [ ] [ ]0 0, ,B x R B x R× по пер-вой переменной, т. е. выполняется следующее неравенство:

[ ] [ ]1 2 1 2 1 2 0 0( , ) ( , ) ( , ) ( , , , , , 0 , ),D x y D x y r x x x x B x r y B x r R− ≤ α ρ − ∈ ∈ ρ ≤ ρ ≤ (12)

где функция ( ; )rα ρ неотрицательна на [0, ] [0, ]R R× . Л е м м а 3. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условиям (11) и (12). Тогда оператор ( )S ⋅

удовлетворяет условию Липшица на [ ] *0 , (0 )B x r r R≤ ≤ с неотрицательной на [ ] *0, (0 )r r R≤ <

функцией ( , ( ))( ) .

1 ( , ( ))r rr

r rα ψ

κ =−β ψ

Введем следующие обозначения

0( ) (0) ( )

rb r t dt= ψ + κ∫

и

0( ) (0) ( ) .

rb r t dt= ψ − κ∫

Рис. 2

36

0 0 0( ) min ( ; ) min ( ) ( , ) .

R Rr a r r r t dt

ρ

≤ρ≤ ≤ρ≤

⎧ ⎫⎪ ⎪χ = ρ = η + β⎨ ⎬⎪ ⎪⎩ ⎭

∫

Нетрудно видеть, что эта функция неубывающая, так как и ( )rη и ( , )rβ ρ не убывают по пере-менной r. Функция ( )rχ ограничена сверху по крайней мере R в силу выполнения условий лем-мы 1. Поэтому существует максимальный промежуток *[0, ]R , для которого выполняется соот-ношение *( ) (0 )r R r Rχ ≤ ≤ ≤ . По определению, при любом *[0, ]r R∈ существует 0ρ > , для ко-торого уравнение ( ; )a r ρ = ρ разрешимо и, тем самым, на каждом из шаров [ ]0 ,B x r определен оператор ( )S ⋅ ; тем самым оператор ( )S ⋅ определен и на их объединении, которое совпадает

с шаром *0 ,B x R⎡ ⎤

⎣ ⎦ .

Обозначим наименьший корень уравнения ( ; )a r ρ = ρ через * ( )rρ = ψ . Так на рис. 2 изображены три кривые ( , )a rρ = ρ , в ко-

торых *1 20 .r R r≤ ≤ < Оператор ( )S ⋅ определен для всех

[ ]0 ,x B x r∈ , где *0,r R⎡ ⎤∈⎣ ⎦ , т. е. в частности при r = r1,

r = R* оператор ( )S ⋅ определен на шаре [ ]0 ,B x r , и не опре-делен на том же шаре при r = r2.

Таким образом верна следующая Л е м м а 2. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет ус-

ловию (11). Тогда на шаре *0 ,B x R⎡ ⎤

⎣ ⎦ определен оператор

( )S ⋅ , для которого справедливо равенство Sx = D(x,Sx); бо-лее того, этот оператор удовлетворяет неравенству

*0 0( ) ( , 0 ).Sx x r x x r r R− ≤ ψ − ≤ ≤ ≤

Леммы 1 и 2 означают, что оператор ( )S ⋅ определен на шаре *0 ,B x R⎡ ⎤

⎣ ⎦ , а также, что

[ ] [ ] *0 0, , ( ) (0 ).SB x r B x r r R⊆ ψ ≤ ≤

Пусть теперь оператор ( , )D ⋅ ⋅ удовлетворяет условию Липшица на [ ] [ ]0 0, ,B x R B x R× по пер-вой переменной, т. е. выполняется следующее неравенство:

[ ] [ ]1 2 1 2 1 2 0 0( , ) ( , ) ( , ) ( , , , , , 0 , ),D x y D x y r x x x x B x r y B x r R− ≤ α ρ − ∈ ∈ ρ ≤ ρ ≤ (12)

где функция ( ; )rα ρ неотрицательна на [0, ] [0, ]R R× . Л е м м а 3. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условиям (11) и (12). Тогда оператор ( )S ⋅

удовлетворяет условию Липшица на [ ] *0 , (0 )B x r r R≤ ≤ с неотрицательной на [ ] *0, (0 )r r R≤ <

функцией ( , ( ))( ) .

1 ( , ( ))r rr

r rα ψ

κ =−β ψ

Введем следующие обозначения

0( ) (0) ( )

rb r t dt= ψ + κ∫

и

0( ) (0) ( ) .

rb r t dt= ψ − κ∫

Рис. 2

37

Теперь, используя теорему 1, получаем: Т е о р е м а 2. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условиям (11) и (12), и число r удов-

летворяет неравенству *( ) (0 )b r r r R≤ ≤ < , пусть также *r – корень уравнения ( )b r r= *(0 )r R≤ < .

Тогда 1) оператор ( , )D ⋅ ⋅ имеет единственную неподвижную точку [ ]*

0 *, ,x R x r r∈ ;

2) неявные последовательные приближения { }nξ , определенные равенством 1 1( , )n n nD+ +ξ = ξ ξ ( 0,1,...),n = при любом начальном приближении [ ]0 0 ,B x rξ ∈ определены для любого n и сходятся

к неподвижной точке *x ; 3) справедлива оценка

* ( ) ( )0 0( ) 2 (0) ( 0,1,...).n n

nx r b x b n− ξ ≤ + ξ − − =

4. Теоремы П. Ж. Лемарье-Рессе. Одним из поводов написания этой статьи являются иссле-дования французского математика П. Ж. Лемарье-Рессе, в которых рассматривается уравнение

( ,..., ),mx T x x= η+ (13)

где mT – m-линейный ( 2)m ≥ непрерывный оператор, определенный на некотором банаховом пространстве Х, удовлетворяющий следующему неравенству:

1 1( ,..., ) ... ,m m mT x x C x x≤ (14)

а вектор Xη∈ удовлетворяет неравенству mrη ≤ (т. е. [ ] [ ]0, 0,m mB r B Rη∈ ⊂ ), где

11( ) ( 1) , .

1

mm

m mmrCm mr R

m m

−− −

= =−

В [3] доказываются утверждения о разрешимости уравнения (13), о сходимости явных и не-явных последовательных приближений и др. Нетрудно видеть, что результаты П. Ж. Лемарье-Рессе являются прямым следствием сформулированных выше теорем. Более того, теоремы 1 и 2 позволяют улучшить утверждения П. Ж. Лемарье-Рессе о существовании решения уравнения (13) и сходимости к нему последовательных приближений.

Обозначим через *r решение уравнения

.mCr rη − =

Имеет место Т е о р е м а 3. Пусть выполняется неравенство (14). Тогда 1) уравнение ( ,..., ),mx T x x= η+ где mrη ≤ , имеет единственное решение [ ]*

*0, , mx R r R∈ =

*{ : }mx r x R≤ ≤ ; 2) последовательные приближения вида

1 ( ,..., )n m n nT+ξ = η+ ξ ξ

при любом начальном приближении [ ]0 00,B Rξ ∈ сходятся к решению *x уравнения (13); 3) последовательные приближения вида

1 1( ,..., , )n m n n nT+ +ξ = η+ ξ ξ ξ

при любом начальном приближении [ ]0 00,B Rξ ∈ сходятся к решению *x уравнения (13).

37

Теперь, используя теорему 1, получаем: Т е о р е м а 2. Пусть оператор ( , )D ⋅ ⋅ удовлетворяет условиям (11) и (12), и число r удов-

летворяет неравенству *( ) (0 )b r r r R≤ ≤ < , пусть также *r – корень уравнения ( )b r r= *(0 )r R≤ < .

Тогда 1) оператор ( , )D ⋅ ⋅ имеет единственную неподвижную точку [ ]*

0 *, ,x R x r r∈ ;

2) неявные последовательные приближения { }nξ , определенные равенством 1 1( , )n n nD+ +ξ = ξ ξ ( 0,1,...),n = при любом начальном приближении [ ]0 0 ,B x rξ ∈ определены для любого n и сходятся

к неподвижной точке *x ; 3) справедлива оценка

* ( ) ( )0 0( ) 2 (0) ( 0,1,...).n n

nx r b x b n− ξ ≤ + ξ − − =

4. Теоремы П. Ж. Лемарье-Рессе. Одним из поводов написания этой статьи являются иссле-дования французского математика П. Ж. Лемарье-Рессе, в которых рассматривается уравнение

( ,..., ),mx T x x= η+ (13)

где mT – m-линейный ( 2)m ≥ непрерывный оператор, определенный на некотором банаховом пространстве Х, удовлетворяющий следующему неравенству:

1 1( ,..., ) ... ,m m mT x x C x x≤ (14)

а вектор Xη∈ удовлетворяет неравенству mrη ≤ (т. е. [ ] [ ]0, 0,m mB r B Rη∈ ⊂ ), где

11( ) ( 1) , .

1

mm

m mmrCm mr R

m m

−− −

= =−

В [3] доказываются утверждения о разрешимости уравнения (13), о сходимости явных и не-явных последовательных приближений и др. Нетрудно видеть, что результаты П. Ж. Лемарье-Рессе являются прямым следствием сформулированных выше теорем. Более того, теоремы 1 и 2 позволяют улучшить утверждения П. Ж. Лемарье-Рессе о существовании решения уравнения (13) и сходимости к нему последовательных приближений.

Обозначим через *r решение уравнения

.mCr rη − =

Имеет место Т е о р е м а 3. Пусть выполняется неравенство (14). Тогда 1) уравнение ( ,..., ),mx T x x= η+ где mrη ≤ , имеет единственное решение [ ]*

*0, , mx R r R∈ =

*{ : }mx r x R≤ ≤ ; 2) последовательные приближения вида

1 ( ,..., )n m n nT+ξ = η+ ξ ξ

при любом начальном приближении [ ]0 00,B Rξ ∈ сходятся к решению *x уравнения (13); 3) последовательные приближения вида

1 1( ,..., , )n m n n nT+ +ξ = η+ ξ ξ ξ

при любом начальном приближении [ ]0 00,B Rξ ∈ сходятся к решению *x уравнения (13).

38

5. О гладкости решений. В условиях теоремы 2 оператор ( )S ⋅ действует в пространстве Х. Пусть дополнительно 0 0x X∈ , где 0X – банахово пространство, непрерывно вложенное в про-странство Х, и оператор ( , )D ⋅ ⋅ удовлетворяет условию

[ ] [ ]

1 2 1 20 0

0 1 2 0 0 0

( , ) ( , ) ( , )

( , , , , , 0 , 0 ),

D x y D x y r y y

x B x r y y B x r R R

− ≤ γ ρ −

∈ ∈ ρ ≤ ≤ ≤ ρ ≤ (15)

где функция ( , )rγ ρ неотрицательна, неубывающая и непрерывна на 0[0, ] [0, ]R R× . Пусть при

всех *0,r r⎡ ⎤∈⎣ ⎦ уравнение

00 0 0

0( ) ( , ) ( ) sup ( , )

x x rr r s ds r D x x x

ρ

− ≤

⎛ ⎞ρ = ζ + γ ζ = −⎜ ⎟⎜ ⎟

⎝ ⎠∫

имеет решение ( ).rρ = φ Тогда определенный на шаре [ ]0 ,B x r оператор ( )S ⋅ принимает значе-ния в пространстве Х0. Тем самым, существующая в условиях теоремы 2 неподвижная

[ ]*0 ,x B x r∈ оказывается лежащей в более узком шаре [ ]0 0 , ( ) .B x rφ Из этого замечания вытекает,

в частности, результат П. Ж. Лемарье-Рессе о гладкости соответствующего решения уравнения (13). Авторы благодарны Л. Б. Княжище за обсуждение результатов статьи.


1. К а р т а н А. // Дифференц. исчисление. Дифференц. формы. М.: Мир, 1971. 2. К а н т о р о в и ч Л. В., А к и л о в Г. П. // Функциональный анализ. М., 1984. 3. L e m a r i é - R i e u s s e t P. G. // Rev. Mat. Iberoamericana. 2006. Vol. 22, N 1. P. 339–356. 4. Z a b r e i k o P. P. // Analytic Methods of Analysis and Differential Equations / Ed. A. A. Kilbas, S. V. Rogosin.

2006. P. 255–272.

ZABREIKO P. P., KOROTS Yu. V.

[email protected]

ANALYSIS OF THE IMPLICIT SUCCESSIVE APPROXIMATIONS

Summary

The theorem of convergence of implicit successive approximations to the fixed point for the non-linear operator is given. In the article the ball of non-existence of the fixed point for the non-linear operator, which satisfies the Lipshits condition on the family of embedded in each other balls, is found. The fact that the theorem mentioned above implies Lemarié-Rieusset theorem is stated.

38

5. О гладкости решений. В условиях теоремы 2 оператор ( )S ⋅ действует в пространстве Х. Пусть дополнительно 0 0x X∈ , где 0X – банахово пространство, непрерывно вложенное в про-странство Х, и оператор ( , )D ⋅ ⋅ удовлетворяет условию

[ ] [ ]

1 2 1 20 0

0 1 2 0 0 0

( , ) ( , ) ( , )

( , , , , , 0 , 0 ),

D x y D x y r y y

x B x r y y B x r R R

− ≤ γ ρ −

∈ ∈ ρ ≤ ≤ ≤ ρ ≤ (15)

где функция ( , )rγ ρ неотрицательна, неубывающая и непрерывна на 0[0, ] [0, ]R R× . Пусть при

всех *0,r r⎡ ⎤∈⎣ ⎦ уравнение

00 0 0

0( ) ( , ) ( ) sup ( , )

x x rr r s ds r D x x x

ρ

− ≤

⎛ ⎞ρ = ζ + γ ζ = −⎜ ⎟⎜ ⎟

⎝ ⎠∫

имеет решение ( ).rρ = φ Тогда определенный на шаре [ ]0 ,B x r оператор ( )S ⋅ принимает значе-ния в пространстве Х0. Тем самым, существующая в условиях теоремы 2 неподвижная

[ ]*0 ,x B x r∈ оказывается лежащей в более узком шаре [ ]0 0 , ( ) .B x rφ Из этого замечания вытекает,

в частности, результат П. Ж. Лемарье-Рессе о гладкости соответствующего решения уравнения (13). Авторы благодарны Л. Б. Княжище за обсуждение результатов статьи.


1. К а р т а н А. // Дифференц. исчисление. Дифференц. формы. М.: Мир, 1971. 2. К а н т о р о в и ч Л. В., А к и л о в Г. П. // Функциональный анализ. М., 1984. 3. L e m a r i é - R i e u s s e t P. G. // Rev. Mat. Iberoamericana. 2006. Vol. 22, N 1. P. 339–356. 4. Z a b r e i k o P. P. // Analytic Methods of Analysis and Differential Equations / Ed. A. A. Kilbas, S. V. Rogosin.

2006. P. 255–272.

ZABREIKO P. P., KOROTS Yu. V.

[email protected]

ANALYSIS OF THE IMPLICIT SUCCESSIVE APPROXIMATIONS

Summary

The theorem of convergence of implicit successive approximations to the fixed point for the non-linear operator is given. In the article the ball of non-existence of the fixed point for the non-linear operator, which satisfies the Lipshits condition on the family of embedded in each other balls, is found. The fact that the theorem mentioned above implies Lemarié-Rieusset theorem is stated.

39



УДК 517.983

О. В. МАТЫСИК, В. Ф. САВЧУК

ИТЕРАЦИОННАЯ ПРОЦЕДУРА НЕЯВНОГО ТИПА РЕШЕНИЯ ОПЕРАТОРНЫХ УРАВНЕНИЙ В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ


Брестский государственный университет им. А. С. Пушкина Поступило 26.02.2009

1. Постановка задачи. В действительном гильбертовом пространстве H исследуется опера-торное уравнение I рода

,Ax y= (1)

где A – положительно определенный ограниченный и самосопряженный оператор, для которого нуль не является собственным значением, однако принадлежит спектру оператора А, и, следова-тельно, задача некорректна. Пусть ( )y R A∈ , т. е. при точной правой части y уравнение (1) имеет единственное решение x. Для отыскания этого решения предлагается неявная итерационная про-цедура

( ) 11 0, 0,k k

n nE A x x A y x k N−++ α = + α = ∈ . (2)

В случае приближенной правой части yδ ( )y yδ− ≤ δ соответствующие методу (2) итера-ции примут вид

( ) 11, , 0,, 0,k k

n nE A x x A y x k N−+ δ δ δ δ+ α = + α = ∈ . (3)

Ниже, как обычно, под сходимостью метода (3) понимается утверждение о том, что приближе-ния (3) сколь угодно близко подходят к точному решению уравнения при подходящем выборе n

и достаточно малых δ . Иными словами, метод (3) является сходящимся, если ( ),lim inf 0nnx x δ

δ→∞− = .

2. Сходимость метода в случае априорного выбора числа итераций. 2.1. Сходимость при точной правой части. Воспользовавшись интегральным представле-

нием положительно определенного самосопряженного оператора A и формулой (2), по индукции

получим 1

0(1 )

Mk n

nx x dE y− −λ− = λ + αλ∫ , где M A= , Eλ – спектральная функция оператора A.

Отсюда легко выводится сходимость процесса (2) при n →∞ для 0α > . 2.2. Сходимость при приближенной правой части. Итерационный процесс (3) является

сходящимся, если нужным образом выбирать число итераций n в зависимости от уровня по-грешности δ. Справедлива

Т е о р е м а 1. Итерационный процесс (3) сходится при 0α > , если выбирать число итера-ций n в зависимости от δ так, чтобы 1 0kn δ→ при , 0.n →∞ δ→

Доказательство теоремы аналогично доказательству подобной теоремы из [1]. При этом, легко показывается оценка 1 1

, , 1k kn nx x kn nδ− ≤ α δ ≥ .

2.3. Оценка погрешности. Скорость сходимости метода (3) будем оценивать при дополни-тельном предположении о возможности истокообразного представления точного решения x

39



УДК 517.983

О. В. МАТЫСИК, В. Ф. САВЧУК

ИТЕРАЦИОННАЯ ПРОЦЕДУРА НЕЯВНОГО ТИПА РЕШЕНИЯ ОПЕРАТОРНЫХ УРАВНЕНИЙ В ГИЛЬБЕРТОВОМ ПРОСТРАНСТВЕ


Брестский государственный университет им. А. С. Пушкина Поступило 26.02.2009

1. Постановка задачи. В действительном гильбертовом пространстве H исследуется опера-торное уравнение I рода

,Ax y= (1)

где A – положительно определенный ограниченный и самосопряженный оператор, для которого нуль не является собственным значением, однако принадлежит спектру оператора А, и, следова-тельно, задача некорректна. Пусть ( )y R A∈ , т. е. при точной правой части y уравнение (1) имеет единственное решение x. Для отыскания этого решения предлагается неявная итерационная про-цедура

( ) 11 0, 0,k k

n nE A x x A y x k N−++ α = + α = ∈ . (2)

В случае приближенной правой части yδ ( )y yδ− ≤ δ соответствующие методу (2) итера-ции примут вид

( ) 11, , 0,, 0,k k

n nE A x x A y x k N−+ δ δ δ δ+ α = + α = ∈ . (3)

Ниже, как обычно, под сходимостью метода (3) понимается утверждение о том, что приближе-ния (3) сколь угодно близко подходят к точному решению уравнения при подходящем выборе n

и достаточно малых δ . Иными словами, метод (3) является сходящимся, если ( ),lim inf 0nnx x δ

δ→∞− = .

2. Сходимость метода в случае априорного выбора числа итераций. 2.1. Сходимость при точной правой части. Воспользовавшись интегральным представле-

нием положительно определенного самосопряженного оператора A и формулой (2), по индукции

получим 1

0(1 )

Mk n

nx x dE y− −λ− = λ + αλ∫ , где M A= , Eλ – спектральная функция оператора A.

Отсюда легко выводится сходимость процесса (2) при n →∞ для 0α > . 2.2. Сходимость при приближенной правой части. Итерационный процесс (3) является

сходящимся, если нужным образом выбирать число итераций n в зависимости от уровня по-грешности δ. Справедлива

Т е о р е м а 1. Итерационный процесс (3) сходится при 0α > , если выбирать число итера-ций n в зависимости от δ так, чтобы 1 0kn δ→ при , 0.n →∞ δ→

Доказательство теоремы аналогично доказательству подобной теоремы из [1]. При этом, легко показывается оценка 1 1

, , 1k kn nx x kn nδ− ≤ α δ ≥ .

2.3. Оценка погрешности. Скорость сходимости метода (3) будем оценивать при дополни-тельном предположении о возможности истокообразного представления точного решения x

40

уравнения (1), т. е. , 0.sx A z s= > Тогда 1sy A z+= и, следовательно, получим nx x− =

( )0

1M ns k dE z

−λλ + αλ∫ . Для оценки nx x− найдём максимум модуля подынтегральной функции

( ) (1 )s k nf −λ = λ + αλ . Нетрудно показать, что при условии 0α > справедливо неравенство

( )2 s ks knx x s kn z−− ≤ α . Таким образом, общая оценка погрешности метода (3) запишется в виде

( ) ( )1, , 2 , 1.s k ks k

n n n nx x x x x x s kn z k n n−

δ δ− ≤ − + − ≤ α + α δ ≥ Для минимизации оценки погреш- ности вычислим ее правую часть в точке, в которой производная от нее равна нулю. В результате

получим априорный момент останова ( ) ( 1)

( 1)( 1) 1 ( 1)oпт 2

s k sk ss s k ssn z

k

+ ++− + − − +⎛ ⎞= α δ⎜ ⎟

⎝ ⎠ и опти-

мальную оценку погрешности (1 ) ( ( 1))

1 ( 1)( ( 1)) ( 1), опт

(1 ) 2s k k s

ss k s s sn

sx x s zk

− ++− + +

δ⎛ ⎞− ≤ + ⋅ δ⎜ ⎟⎝ ⎠

.

Приведем погрешность метода (3) при счете с округлениями. Пусть ,nx δ точное значение, полученное по формуле (3), а nz – значение, полученное по той же формуле с учетом погрешно-

стей вычисления nγ , т. е. ( ) 1 11 0, 0k k

n n nz E A z A y z− −

+ δ⎡ ⎤= + α + α + αγ =⎣ ⎦ . Оценка погрешности

метода (3) в этом случае имеет вид ( )1, , 2

s kk

n n n nsx z x x x z z k n

knδ δ⎛ ⎞− ≤ − + − ≤ + α δ +⎜ ⎟α⎝ ⎠

, 1,n nαγ ≥ где sup ii

γ = γ .

Сравнение метода (3) с хорошо известным явным методом итераций [2–7]

( )1, , , 0,, 0n n nx x y Ax x+ δ δ δ δ δ= + α − = , (4)

показывает, что порядки их оптимальных оценок совпадают. Достоинство явных методов в том, что они не требуют обращения оператора, а требуют только вычисления значений оператора на последовательных приближениях. В этом смысле явный метод (4) предпочтительнее неявного метода (3). Однако неявный метод (3) обладает следующим важным достоинством. В явном ме-

тоде (4) на шаг α накладывается ограничение сверху – неравенство 504 A

< α ≤ , что может на

практике привести к необходимости большого числа итераций. В неявных методах никаких ограничений сверху на 0α > нет. Это позволяет считать 0α > произвольно большим (независимо от A ). В связи с чем оптимальную оценку для метода (3) можно получить уже на первых шагах

итераций. Для этого достаточно взять ( ) ( 1)

( 1)( 1) ( 1)oпт 2

s k sk ss s k ss z

k

+ ++− + − +⎛ ⎞α = δ⎜ ⎟

⎝ ⎠.

3. Сходимость метода в случае неединственного решения. Пусть теперь 0 – собственное значение оператора А (т. е. уравнение (1) имеет неединственное решение). Положим ( )N A = { }0x H Ax∈ | = , и пусть ( )M A – ортогональное дополнение ядра ( )N A до H. Пусть далее ( )P A x – проекция x H∈ на ( )N A , а ( )П A x – проекция x H∈ на ( )M A . Справедлива

Т е о р е м а 2. Пусть 0, , 0.A y H≥ ∈ α > Тогда для итерационного процесса (2) верны сле-дующие утверждения:

а) ( ) , ( , ) inf ;n n x HAx П A y Ax y I A y Ax y

∈→ − → = −

б) метод (2) cходится тогда и только тогда, когда уравнение ( )Ax П A y= разрешимо. В по-

следнем случае *0( )nx P A x x→ + , где *x – минимальное решение уравнения.

40

уравнения (1), т. е. , 0.sx A z s= > Тогда 1sy A z+= и, следовательно, получим nx x− =

( )0

1M ns k dE z

−λλ + αλ∫ . Для оценки nx x− найдём максимум модуля подынтегральной функции

( ) (1 )s k nf −λ = λ + αλ . Нетрудно показать, что при условии 0α > справедливо неравенство

( )2 s ks knx x s kn z−− ≤ α . Таким образом, общая оценка погрешности метода (3) запишется в виде

( ) ( )1, , 2 , 1.s k ks k

n n n nx x x x x x s kn z k n n−

δ δ− ≤ − + − ≤ α + α δ ≥ Для минимизации оценки погреш- ности вычислим ее правую часть в точке, в которой производная от нее равна нулю. В результате

получим априорный момент останова ( ) ( 1)

( 1)( 1) 1 ( 1)oпт 2

s k sk ss s k ssn z

k

+ ++− + − − +⎛ ⎞= α δ⎜ ⎟

⎝ ⎠ и опти-

мальную оценку погрешности (1 ) ( ( 1))

1 ( 1)( ( 1)) ( 1), опт

(1 ) 2s k k s

ss k s s sn

sx x s zk

− ++− + +

δ⎛ ⎞− ≤ + ⋅ δ⎜ ⎟⎝ ⎠

.

Приведем погрешность метода (3) при счете с округлениями. Пусть ,nx δ точное значение, полученное по формуле (3), а nz – значение, полученное по той же формуле с учетом погрешно-

стей вычисления nγ , т. е. ( ) 1 11 0, 0k k

n n nz E A z A y z− −

+ δ⎡ ⎤= + α + α + αγ =⎣ ⎦ . Оценка погрешности

метода (3) в этом случае имеет вид ( )1, , 2

s kk

n n n nsx z x x x z z k n

knδ δ⎛ ⎞− ≤ − + − ≤ + α δ +⎜ ⎟α⎝ ⎠

, 1,n nαγ ≥ где sup ii

γ = γ .

Сравнение метода (3) с хорошо известным явным методом итераций [2–7]

( )1, , , 0,, 0n n nx x y Ax x+ δ δ δ δ δ= + α − = , (4)

показывает, что порядки их оптимальных оценок совпадают. Достоинство явных методов в том, что они не требуют обращения оператора, а требуют только вычисления значений оператора на последовательных приближениях. В этом смысле явный метод (4) предпочтительнее неявного метода (3). Однако неявный метод (3) обладает следующим важным достоинством. В явном ме-

тоде (4) на шаг α накладывается ограничение сверху – неравенство 504 A

< α ≤ , что может на

практике привести к необходимости большого числа итераций. В неявных методах никаких ограничений сверху на 0α > нет. Это позволяет считать 0α > произвольно большим (независимо от A ). В связи с чем оптимальную оценку для метода (3) можно получить уже на первых шагах

итераций. Для этого достаточно взять ( ) ( 1)

( 1)( 1) ( 1)oпт 2

s k sk ss s k ss z

k

+ ++− + − +⎛ ⎞α = δ⎜ ⎟

⎝ ⎠.

3. Сходимость метода в случае неединственного решения. Пусть теперь 0 – собственное значение оператора А (т. е. уравнение (1) имеет неединственное решение). Положим ( )N A = { }0x H Ax∈ | = , и пусть ( )M A – ортогональное дополнение ядра ( )N A до H. Пусть далее ( )P A x – проекция x H∈ на ( )N A , а ( )П A x – проекция x H∈ на ( )M A . Справедлива

Т е о р е м а 2. Пусть 0, , 0.A y H≥ ∈ α > Тогда для итерационного процесса (2) верны сле-дующие утверждения:

а) ( ) , ( , ) inf ;n n x HAx П A y Ax y I A y Ax y

∈→ − → = −

б) метод (2) cходится тогда и только тогда, когда уравнение ( )Ax П A y= разрешимо. В по-

следнем случае *0( )nx P A x x→ + , где *x – минимальное решение уравнения.

41

Доказательство теоремы аналогично доказательству подобной теоремы из [1]. Так как 0 0x = , то *

nx x→ , т. е. процесс (2) сходится к нормальному решению, к решению с минимальной нормой. 4. Сходимость метода в энергетической норме. Здесь и ниже предполагается, что решение

уравнения (1) единственно. Изучим сходимость метода (3) в энергетической норме гильбертова пространства ( ),Ax Ax x= , где x H∈ . При этом, как обычно, число итераций n нужно выбирать

в зависимости от уровня погрешности δ. Полагаем 0, 0x δ = и рассмотрим разность ( ),n nx x x xδ− = − +

( ),n nx x δ− . С помощью интегрального представления самосопряженного оператора A получим

( )( )2

20

1 ,1

M

n A nkx x d E x xλ− = λ

+ αλ∫ и

( )( )( )

2

2 1,

0

11 ,1

M

n n nA kx x d E y y y y−

δ λ δ δ

⎡ ⎤⎢ ⎥− = λ − − −⎢ ⎥

+ αλ⎢ ⎥⎣ ⎦

∫ ,

где M A= . Оценив подынтегральные функции, получим при условии 0α > оценку погреш-

ности для метода (3) в энергетической норме ( ) ( )1/(2 ) 1/(2 )1/2, 4 , 1k k

n Ax x kn x k n n−

δ− ≤ α + α δ ≥ .

Следовательно, если в процессе (3) выбирать число итераций ( )n n= δ , зависящим от δ, так, что-бы 1 (2 ) 0, , 0kn nδ→ →∞ δ→ , то получим метод, обеспечивающий сходимость к точному ре-шению в энергетической норме. Итак, справедлива

Т е о р е м а 3. При условии 0α > итерационный метод (3) сходится в энергетической норме гильбертова пространства, если число итераций n выбирать из условия 1 (2 ) 0, ,kn nδ→ →∞ 0δ→ .

Для метода (3) справедлива оценка погрешности ( ) ( )1/(2 ) 1/(2 )1/ 2, 4 ,k k

n Ax x kn x k n−

δ− ≤ α + α δ 1.n ≥ Для минимизации оценки погрешности вычислим ее правую часть в точке, в которой произ-

водная от нее равна нулю. В результате получим ( ) ( )опт 1/22 1 /(2 ) 1 /(4 ) 1/2, 2 k k k k

n Ax x k x− −

δ− ≤ δ и ( )1 /2 1

опт (2 ) kk kn k x− + − −= α δ . Отметим тот факт, что для сходимости метода (3) в энергетической норме достаточно выби-

рать число итераций ( )n n= δ так, чтобы 1 (2 ) 0, , 0kn nδ→ →∞ δ→ . Однако ( )оптkn O −= δ , т. е.

nопт относительно δ имеет порядок k−δ , и такой порядок обеспечивает сходимость метода (3). Таким образом, использование энергетической нормы позволило получить априорную оцен-

ку погрешности для метода (3) и априорный момент останова nопт без дополнительного требо- вания истокообразной представимости точного решения, что делает метод (3) эффективным и тогда, когда нет сведений об истокопредставимости точного решения x уравнения (1).

5. Правило останова по невязке. Априорный выбор числа итераций n получен в предполо-жении, что точное решение x уравнения (1) истокообразно представимо. Однако обычно сведе-ния об истокообразности искомого решения неизвестны и, тем самым, приведенные в разделе 2 оценки погрешности оказываются неприменимыми. Тем не менее, метод (3) можно сделать вполне эффективным, если воспользоваться следующим правилом останова по невязке. Зададим уровень останова 0ε > и момент m останова итерационного процесса (3) определим условием [1; 4–5]

, ,, ( ), , , 1n mAx y n m Ax y b bδ δ δ δ− > ε < − ≤ ε ε = δ > . (5)

Предположим, что при начальном приближении невязка достаточно велика, а именно, боль-ше уровня останова, т. е. 0,Ax yδ δ− > ε . Покажем возможность применения правила (5) к мето-

ду (3). Ниже метод (3) с остановом (5) является сходящимся, если ( ),0

inf 0lim mmx x δ

δ→− = . Рас-

41

Доказательство теоремы аналогично доказательству подобной теоремы из [1]. Так как 0 0x = , то *

nx x→ , т. е. процесс (2) сходится к нормальному решению, к решению с минимальной нормой. 4. Сходимость метода в энергетической норме. Здесь и ниже предполагается, что решение

уравнения (1) единственно. Изучим сходимость метода (3) в энергетической норме гильбертова пространства ( ),Ax Ax x= , где x H∈ . При этом, как обычно, число итераций n нужно выбирать

в зависимости от уровня погрешности δ. Полагаем 0, 0x δ = и рассмотрим разность ( ),n nx x x xδ− = − +

( ),n nx x δ− . С помощью интегрального представления самосопряженного оператора A получим

( )( )2

20

1 ,1

M

n A nkx x d E x xλ− = λ

+ αλ∫ и

( )( )( )

2

2 1,

0

11 ,1

M

n n nA kx x d E y y y y−

δ λ δ δ

⎡ ⎤⎢ ⎥− = λ − − −⎢ ⎥

+ αλ⎢ ⎥⎣ ⎦

∫ ,

где M A= . Оценив подынтегральные функции, получим при условии 0α > оценку погреш-

ности для метода (3) в энергетической норме ( ) ( )1/(2 ) 1/(2 )1/2, 4 , 1k k

n Ax x kn x k n n−

δ− ≤ α + α δ ≥ .

Следовательно, если в процессе (3) выбирать число итераций ( )n n= δ , зависящим от δ, так, что-бы 1 (2 ) 0, , 0kn nδ→ →∞ δ→ , то получим метод, обеспечивающий сходимость к точному ре-шению в энергетической норме. Итак, справедлива

Т е о р е м а 3. При условии 0α > итерационный метод (3) сходится в энергетической норме гильбертова пространства, если число итераций n выбирать из условия 1 (2 ) 0, ,kn nδ→ →∞ 0δ→ .

Для метода (3) справедлива оценка погрешности ( ) ( )1/(2 ) 1/(2 )1/ 2, 4 ,k k

n Ax x kn x k n−

δ− ≤ α + α δ 1.n ≥ Для минимизации оценки погрешности вычислим ее правую часть в точке, в которой произ-

водная от нее равна нулю. В результате получим ( ) ( )опт 1/22 1 /(2 ) 1 /(4 ) 1/2, 2 k k k k

n Ax x k x− −

δ− ≤ δ и ( )1 /2 1

опт (2 ) kk kn k x− + − −= α δ . Отметим тот факт, что для сходимости метода (3) в энергетической норме достаточно выби-

рать число итераций ( )n n= δ так, чтобы 1 (2 ) 0, , 0kn nδ→ →∞ δ→ . Однако ( )оптkn O −= δ , т. е.

nопт относительно δ имеет порядок k−δ , и такой порядок обеспечивает сходимость метода (3). Таким образом, использование энергетической нормы позволило получить априорную оцен-

ку погрешности для метода (3) и априорный момент останова nопт без дополнительного требо- вания истокообразной представимости точного решения, что делает метод (3) эффективным и тогда, когда нет сведений об истокопредставимости точного решения x уравнения (1).

5. Правило останова по невязке. Априорный выбор числа итераций n получен в предполо-жении, что точное решение x уравнения (1) истокообразно представимо. Однако обычно сведе-ния об истокообразности искомого решения неизвестны и, тем самым, приведенные в разделе 2 оценки погрешности оказываются неприменимыми. Тем не менее, метод (3) можно сделать вполне эффективным, если воспользоваться следующим правилом останова по невязке. Зададим уровень останова 0ε > и момент m останова итерационного процесса (3) определим условием [1; 4–5]

, ,, ( ), , , 1n mAx y n m Ax y b bδ δ δ δ− > ε < − ≤ ε ε = δ > . (5)

Предположим, что при начальном приближении невязка достаточно велика, а именно, боль-ше уровня останова, т. е. 0,Ax yδ δ− > ε . Покажем возможность применения правила (5) к мето-

ду (3). Ниже метод (3) с остановом (5) является сходящимся, если ( ),0

inf 0lim mmx x δ

δ→− = . Рас-

42

смотрим семейство функций ( )

1 1( ) 1 01

n nkg −

⎡ ⎤⎢ ⎥λ = λ − ≥⎢ ⎥

+ αλ⎢ ⎥⎣ ⎦

. Нетрудно показать, что при 0α >

для ( )ng λ выполняются следующие условия:

1

0sup ( ) ( ) , 0;k

nM

g k n n≤λ≤

λ ≤ α >

0sup 1 ( ) 1, 0;n

Mg n

≤λ≤− λ λ ≤ >

1 ( ) 0,ng− λ λ → ,n →∞ (0, ];M∀λ∈ /

0sup 1 ( ) , 0,

2

s ks

nM

sg nkn≤λ≤

⎛ ⎞λ − λ λ ≤ >⎜ ⎟α⎝ ⎠ 0 s≤ < ∞ .

Аналогично подобным леммам из [1; 4] доказываются следующие леммы. Л е м м а 1. Пусть 0,A A∗= ≥ A M≤ . Тогда для ( ( )) 0, .nw H E Ag A w n∀ ∈ − → →∞

Л е м м а 2. Пусть 0,A A∗= ≥ A M≤ . Тогда для ( )R A∀υ∈ имеет место соотношение

( ( )) 0, , 0 .s k snn A E Ag A v n s− → →∞ ≤ < ∞

Л е м м а 3. Пусть 0,A A∗= ≥ A M≤ . Если для некоторых kn n const< = и 0 ( )v R A∈ при k →∞ имеем 0( ( )) 0,

kk nw A E Ag A v= − → то 0( ( )) 0.kk nv E Ag A v= − →

Леммы 1–3 использовались при доказательстве следующих теорем. Т е о р е м а 4. Пусть 0,A A∗= ≥ A M≤ и пусть момент останова ( )m m= δ в методе (3)

выбирается по правилу (5), тогда ( ),mx xδ δ → при 0δ→ .

Т е о р е м а 5. Пусть выполнены условия теоремы 4 и пусть , 0sx A z s= > . Тогда справед-

ливы оценки

( 1)1( ) 1 ,

2 ( 1)

k szsm

k b

+⎡ ⎤+

δ ≤ + ⎢ ⎥α − δ⎣ ⎦

[ ] ( 1) 1 ( 1)( ), ( 1) s s s

mx x b z+ +δ δ − ≤ + δ +

( 1) 1

1 11 .2 ( 1)

k s k

k zskk b

+⎧ ⎫⎡ ⎤+⎪ ⎪α + δ⎨ ⎬⎢ ⎥α − δ⎣ ⎦⎪ ⎪⎩ ⎭

(6)

Доказательство теорем 4–5 аналогично доказательству подобных теорем из [1; 4].

З а м е ч а н и е 1. Порядок оценки (6) есть 1( )s

sO +δ , и как следует из [4], он оптимален в классе задач с истокопредставимыми решениями , 0sx A z s= > .

З а м е ч а н и е 2. Хотя формулировка теоремы 5 дается с указаниями степени истоко-представимости s и истокопредставляющего элемента z, на практике их значение не потре- буется, так как они не содержатся в правиле останова (5). И тем не менее в теореме 5 утверж- дается, что будет автоматически выбрано количество итераций m, обеспечивающее опти-мальный порядок погрешности. Но даже если истокопредставимость точного решения отсут-ствует, останов по невязке (5), как показывает теорема 4, обеспечивает сходимость метода, т. е. его регуляризующие свойства.

6. Правило останова по соседним приближениям для уравнений с несамосопряженным оператором. Как известно [7], уравнение Ax = y с действующим в гильбертовом пространстве H оператором, не обладающим свойством самосопряженности или положительности, может быть

42

смотрим семейство функций ( )

1 1( ) 1 01

n nkg −

⎡ ⎤⎢ ⎥λ = λ − ≥⎢ ⎥

+ αλ⎢ ⎥⎣ ⎦

. Нетрудно показать, что при 0α >

для ( )ng λ выполняются следующие условия:

1

0sup ( ) ( ) , 0;k

nM

g k n n≤λ≤

λ ≤ α >

0sup 1 ( ) 1, 0;n

Mg n

≤λ≤− λ λ ≤ >

1 ( ) 0,ng− λ λ → ,n →∞ (0, ];M∀λ∈ /

0sup 1 ( ) , 0,

2

s ks

nM

sg nkn≤λ≤

⎛ ⎞λ − λ λ ≤ >⎜ ⎟α⎝ ⎠ 0 s≤ < ∞ .

Аналогично подобным леммам из [1; 4] доказываются следующие леммы. Л е м м а 1. Пусть 0,A A∗= ≥ A M≤ . Тогда для ( ( )) 0, .nw H E Ag A w n∀ ∈ − → →∞

Л е м м а 2. Пусть 0,A A∗= ≥ A M≤ . Тогда для ( )R A∀υ∈ имеет место соотношение

( ( )) 0, , 0 .s k snn A E Ag A v n s− → →∞ ≤ < ∞

Л е м м а 3. Пусть 0,A A∗= ≥ A M≤ . Если для некоторых kn n const< = и 0 ( )v R A∈ при k →∞ имеем 0( ( )) 0,

kk nw A E Ag A v= − → то 0( ( )) 0.kk nv E Ag A v= − →

Леммы 1–3 использовались при доказательстве следующих теорем. Т е о р е м а 4. Пусть 0,A A∗= ≥ A M≤ и пусть момент останова ( )m m= δ в методе (3)

выбирается по правилу (5), тогда ( ),mx xδ δ → при 0δ→ .

Т е о р е м а 5. Пусть выполнены условия теоремы 4 и пусть , 0sx A z s= > . Тогда справед-

ливы оценки

( 1)1( ) 1 ,

2 ( 1)

k szsm

k b

+⎡ ⎤+

δ ≤ + ⎢ ⎥α − δ⎣ ⎦

[ ] ( 1) 1 ( 1)( ), ( 1) s s s

mx x b z+ +δ δ − ≤ + δ +

( 1) 1

1 11 .2 ( 1)

k s k

k zskk b

+⎧ ⎫⎡ ⎤+⎪ ⎪α + δ⎨ ⎬⎢ ⎥α − δ⎣ ⎦⎪ ⎪⎩ ⎭

(6)

Доказательство теорем 4–5 аналогично доказательству подобных теорем из [1; 4].

З а м е ч а н и е 1. Порядок оценки (6) есть 1( )s

sO +δ , и как следует из [4], он оптимален в классе задач с истокопредставимыми решениями , 0sx A z s= > .

З а м е ч а н и е 2. Хотя формулировка теоремы 5 дается с указаниями степени истоко-представимости s и истокопредставляющего элемента z, на практике их значение не потре- буется, так как они не содержатся в правиле останова (5). И тем не менее в теореме 5 утверж- дается, что будет автоматически выбрано количество итераций m, обеспечивающее опти-мальный порядок погрешности. Но даже если истокопредставимость точного решения отсут-ствует, останов по невязке (5), как показывает теорема 4, обеспечивает сходимость метода, т. е. его регуляризующие свойства.

6. Правило останова по соседним приближениям для уравнений с несамосопряженным оператором. Как известно [7], уравнение Ax = y с действующим в гильбертовом пространстве H оператором, не обладающим свойством самосопряженности или положительности, может быть

43

сведено к решению уравнения * *A Ax A y= уже с положительным и самосопряженным операто-ром *A A . Применение вышеописанных результатов для уравнения (1) приводит к аналогичным результатам для уравнений Ax = y уже с произвольным действующим в гильбертовом простран-стве оператором A. Ограничимся лишь одним примером – приведем аналог теоремы [6].

Решаем уравнение (1) с несамосопряженным оператором А. Используем неявную схему ме-тода итераций

( ) ( ) ( )1 11

1k k k

n n nz E A A z A A A y E A A u− −−∗ ∗ ∗ ∗

+ δ⎛ ⎞ ⎡ ⎤ ⎛ ⎞= + α + α + + α⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎣ ⎦ ⎝ ⎠

, 0z H∈ , k N∈ , (7)

где nu – ошибки вычисления итераций, nu ≤ β . Обозначим ( )1k

C E A A−

∗⎛ ⎞= + α⎜ ⎟⎝ ⎠

, B =

( ) ( )1 1k k

E A A A A A− −∗ ∗ ∗⎛ ⎞+ α α⎜ ⎟

⎝ ⎠. Тогда метод (7) примет вид 1n n nz Cz By Cu+ δ= + + , 0z H∈ , при

приближенной правой части yδ ( )y yδ− ≤ δ и 1n n nw Cw By Cu+ = + + , 0w H∈ , при точной пра-вой части у. Определим момент m останова итерационного процесса условием

1 1, ( ), ,n n m mz z n m z z+ +− > ε < − ≤ ε (8)

где ε – заданное до начала вычислений положительное число (уровень останова). Аналогично подобным леммам из [1; 6] доказываются следующие леммы. Л е м м а 4. Пусть приближение nw определяется равенствами 0 0,w z= 1n nw Cw+ = +

, 0,nBy Cu n+ ≥ тогда справедливо неравенство

12 2 21 0

0 0.

n nk k k k

k kw w Cu w x Cu

−

+= =

− + ≤ − +∑ ∑

Л е м м а 5. При любом 0w H∈ и произвольной последовательности ошибок { },nu удовле-творяющих условию nu ≤ β , выполнено неравенство 1lim 2 .n n

nw w C+

→∞− ≤ β

Используя леммы 4–5, аналогично [1; 6], доказано, что метод (7) с правилом останова (8) сходится, и получена оценка для момента останова. Справедлива

Т е о р е м а 6. Пусть уровень останова ( , )ε = ε δ β выбирается как функция от уровней δ и β норм погрешностей y yδ− и nu . Тогда справедливы следующие утверждения:

а) если ( , ) 2 ,Cε δ β > β то момент останова m определен при любом начальном приближе-нии 0z H∈ и любых yδ и nu , удовлетворяющих условиям , ;ny y uδ− ≤ δ ≤ β

б) если ( , ) 2 ,B Cε δ β > δ + β то справедлива оценка ( )( )

20 ;

2z x

mB C B

−≤

ε − δ − β ε − δ

в) если, кроме того, ( , ) 0, , 0ε δ β → δ β→ и ( )( , ) ,pd B Cε δ β ≥ δ + β где 1,d > (0, 1),p∈ то

, 0lim 0.mz xδ β→

− =


1. С а в ч у к В. Ф., М а т ы с и к О. В. Регуляризация операторных уравнений в гильбертовом пространстве. Брест, 2008.

2. Л а в р е н т ь е в М. М. О некоторых некорректных задачах математической физики. Новосибирск, 1962. 3. Б а к у ш и н с к и й А. Б. // Журн. вычисл. математики и мат. физики. 1967. Т. 7, № 3. С. 672–677. 4. В а й н и к к о Г. М., В е р е т е н н и к о в А. Ю. Итерационные процедуры в некорректных задачах. М., 1986.

43

сведено к решению уравнения * *A Ax A y= уже с положительным и самосопряженным операто-ром *A A . Применение вышеописанных результатов для уравнения (1) приводит к аналогичным результатам для уравнений Ax = y уже с произвольным действующим в гильбертовом простран-стве оператором A. Ограничимся лишь одним примером – приведем аналог теоремы [6].

Решаем уравнение (1) с несамосопряженным оператором А. Используем неявную схему ме-тода итераций

( ) ( ) ( )1 11

1k k k

n n nz E A A z A A A y E A A u− −−∗ ∗ ∗ ∗

+ δ⎛ ⎞ ⎡ ⎤ ⎛ ⎞= + α + α + + α⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎣ ⎦ ⎝ ⎠

, 0z H∈ , k N∈ , (7)

где nu – ошибки вычисления итераций, nu ≤ β . Обозначим ( )1k

C E A A−

∗⎛ ⎞= + α⎜ ⎟⎝ ⎠

, B =

( ) ( )1 1k k

E A A A A A− −∗ ∗ ∗⎛ ⎞+ α α⎜ ⎟

⎝ ⎠. Тогда метод (7) примет вид 1n n nz Cz By Cu+ δ= + + , 0z H∈ , при

приближенной правой части yδ ( )y yδ− ≤ δ и 1n n nw Cw By Cu+ = + + , 0w H∈ , при точной пра-вой части у. Определим момент m останова итерационного процесса условием

1 1, ( ), ,n n m mz z n m z z+ +− > ε < − ≤ ε (8)

где ε – заданное до начала вычислений положительное число (уровень останова). Аналогично подобным леммам из [1; 6] доказываются следующие леммы. Л е м м а 4. Пусть приближение nw определяется равенствами 0 0,w z= 1n nw Cw+ = +

, 0,nBy Cu n+ ≥ тогда справедливо неравенство

12 2 21 0

0 0.

n nk k k k

k kw w Cu w x Cu

−

+= =

− + ≤ − +∑ ∑

Л е м м а 5. При любом 0w H∈ и произвольной последовательности ошибок { },nu удовле-творяющих условию nu ≤ β , выполнено неравенство 1lim 2 .n n

nw w C+

→∞− ≤ β

Используя леммы 4–5, аналогично [1; 6], доказано, что метод (7) с правилом останова (8) сходится, и получена оценка для момента останова. Справедлива

Т е о р е м а 6. Пусть уровень останова ( , )ε = ε δ β выбирается как функция от уровней δ и β норм погрешностей y yδ− и nu . Тогда справедливы следующие утверждения:

а) если ( , ) 2 ,Cε δ β > β то момент останова m определен при любом начальном приближе-нии 0z H∈ и любых yδ и nu , удовлетворяющих условиям , ;ny y uδ− ≤ δ ≤ β

б) если ( , ) 2 ,B Cε δ β > δ + β то справедлива оценка ( )( )

20 ;

2z x

mB C B

−≤

ε − δ − β ε − δ

в) если, кроме того, ( , ) 0, , 0ε δ β → δ β→ и ( )( , ) ,pd B Cε δ β ≥ δ + β где 1,d > (0, 1),p∈ то

, 0lim 0.mz xδ β→

− =


1. С а в ч у к В. Ф., М а т ы с и к О. В. Регуляризация операторных уравнений в гильбертовом пространстве. Брест, 2008.

2. Л а в р е н т ь е в М. М. О некоторых некорректных задачах математической физики. Новосибирск, 1962. 3. Б а к у ш и н с к и й А. Б. // Журн. вычисл. математики и мат. физики. 1967. Т. 7, № 3. С. 672–677. 4. В а й н и к к о Г. М., В е р е т е н н и к о в А. Ю. Итерационные процедуры в некорректных задачах. М., 1986.

44

5. Е м е л и н И. В., К р а с н о с е л ь с к и й М. А. // Докл. АН СССР. 1979. Т. 244, № 4. C. 805–808. 6. Е м е л и н И. В., К р а с н о с е л ь с к и й М. А. // Автоматика и телемеханика. 1978. № 12. С. 59–63. 7. К р а с н о с е л ь с к и й М. А., В а й н и к к о Г. М., З а б р е й к о П. П. и др. Приближенное решение опера-

торных уравнений. М., 1969.

MATYSIK O. V., SAVCHUK V. F.

[email protected]

ITERATION PROCEDURE OF AN IMPLICIT TYPE FOR SOLUTION OF THE OPERATOR EQUATIONS IN THE HILBERT SPACE

Summary

An implicit iteration procedure for solution of the operator equations in the Hilbert space is proposed. Convergence of the method is proved in the case of an a priori choice of a number of iterations, error estimates are obtained. The cases of nonuniqueness and convergence of the method in power norm are investigated. For the method under consideration, the opportunity of application of the rule neighboring approximations and of the rule residual stop is studied.

44

5. Е м е л и н И. В., К р а с н о с е л ь с к и й М. А. // Докл. АН СССР. 1979. Т. 244, № 4. C. 805–808. 6. Е м е л и н И. В., К р а с н о с е л ь с к и й М. А. // Автоматика и телемеханика. 1978. № 12. С. 59–63. 7. К р а с н о с е л ь с к и й М. А., В а й н и к к о Г. М., З а б р е й к о П. П. и др. Приближенное решение опера-

торных уравнений. М., 1969.

MATYSIK O. V., SAVCHUK V. F.

[email protected]

ITERATION PROCEDURE OF AN IMPLICIT TYPE FOR SOLUTION OF THE OPERATOR EQUATIONS IN THE HILBERT SPACE

Summary

An implicit iteration procedure for solution of the operator equations in the Hilbert space is proposed. Convergence of the method is proved in the case of an a priori choice of a number of iterations, error estimates are obtained. The cases of nonuniqueness and convergence of the method in power norm are investigated. For the method under consideration, the opportunity of application of the rule neighboring approximations and of the rule residual stop is studied.

45



ФИЗИКА

УДК 517+530.1

С. В. ЖЕСТКОВ

ПОСТРОЕНИЕ СОЛИТОНОПОДОБНЫХ РЕШЕНИЙ СИСТЕМЫ УРАВНЕНИЙ ЗАХАРОВА С ЛОГАРИФМИЧЕСКИМИ ЗАКОНАМИ НЕЛИНЕЙНОСТИ

(Представлено членом-корреспондентом Л. М. Томильчиком)

Могилевский государственный университет им. А. А. Кулешова Поступило 25.05.2009

В [1] развит прямой метод построения солитоноподобных решений систем произвольного порядка связанных уравнений Шредингера с логарифмическими законами нелинейности. Из-вестно, что классическая система уравнений Захарова обобщает нелинейное уравнение Шредин-гера (НУШ) с керровской нелинейностью и имеет структуру аналогичную системе Davey–Stewartson [2], которая является двумерным обобщением НУШ.

Цель работы – построение и анализ солитоноподобных решений систем Захарова с логариф-мическими законами нелинейности и нелинейностью сложной структуры. Отметим, что уравне-ния Шредингера с аналогичными типами нелинейностей использовались в [3] для описания фи-зических процессов.

I. Рассмотрим следующую систему уравнений Захарова:

( ) 0t x xxi p q K Qψ + ψ + ψ + ψ + ψϕ = ; (1)

( )ln 0, 0tt xx xxR b b⎡ ⎤ϕ − ϕ + ψ = >⎣ ⎦ , (2)

где , , , ,p q K Q R − произвольные действительные числа. Решение системы (1), (2) строится в виде

( )0 1( , ) ( )exp ; ( , ) ( ), ,t x u i k t k x t x v t x h⎡ ⎤ψ = ξ + + δ ϕ = ξ ξ = α +β +⎣ ⎦ (3)

где ( ), ( )u vξ ξ − неизвестные функции, 0 1, , , , ,h k kα β δ − произвольные действительные числа. Подставляя (3) в уравнение (2), найдем

( ) [ ]2 2 2 ln( ) 0v R bu ″′′α −β + β = . (4)

Интегрируя два раза уравнение (4) и полагая одну из постоянных равной нулю, получим

( )( ) ln ( )v a buξ = + ε ξ , (5)

где ( ) ( )2 2 2 2 2, , ,a R= γ α −β ε = β β −α α ≠ β γ − произвольная постоянная. Подставляя выра-

жения (3), (5) в уравнение (1), найдем

( ) [ ]2 20 1 1 12 ln( ) 0i u ik u p u ik u q u ik u k u Ku Qu a bu⎡ ⎤′ ′ ′′ ′⎡α + + β + ⎤ + β + β − + + + ε =⎣ ⎦ ⎣ ⎦ . (6)

Из (6) вытекает, что должны выполняться следующие соотношения:

( )12 0p k q u′α + β + β = ; (7)

45



ФИЗИКА

УДК 517+530.1

С. В. ЖЕСТКОВ

ПОСТРОЕНИЕ СОЛИТОНОПОДОБНЫХ РЕШЕНИЙ СИСТЕМЫ УРАВНЕНИЙ ЗАХАРОВА С ЛОГАРИФМИЧЕСКИМИ ЗАКОНАМИ НЕЛИНЕЙНОСТИ


Могилевский государственный университет им. А. А. Кулешова Поступило 25.05.2009

В [1] развит прямой метод построения солитоноподобных решений систем произвольного порядка связанных уравнений Шредингера с логарифмическими законами нелинейности. Из-вестно, что классическая система уравнений Захарова обобщает нелинейное уравнение Шредин-гера (НУШ) с керровской нелинейностью и имеет структуру аналогичную системе Davey–Stewartson [2], которая является двумерным обобщением НУШ.

Цель работы – построение и анализ солитоноподобных решений систем Захарова с логариф-мическими законами нелинейности и нелинейностью сложной структуры. Отметим, что уравне-ния Шредингера с аналогичными типами нелинейностей использовались в [3] для описания фи-зических процессов.

I. Рассмотрим следующую систему уравнений Захарова:


( )ln 0, 0tt xx xxR b b⎡ ⎤ϕ − ϕ + ψ = >⎣ ⎦ , (2)

где , , , ,p q K Q R − произвольные действительные числа. Решение системы (1), (2) строится в виде

( )0 1( , ) ( )exp ; ( , ) ( ), ,t x u i k t k x t x v t x h⎡ ⎤ψ = ξ + + δ ϕ = ξ ξ = α +β +⎣ ⎦ (3)

где ( ), ( )u vξ ξ − неизвестные функции, 0 1, , , , ,h k kα β δ − произвольные действительные числа. Подставляя (3) в уравнение (2), найдем

( ) [ ]2 2 2 ln( ) 0v R bu ″′′α −β + β = . (4)


( )( ) ln ( )v a buξ = + ε ξ , (5)

где ( ) ( )2 2 2 2 2, , ,a R= γ α −β ε = β β −α α ≠ β γ − произвольная постоянная. Подставляя выра-

жения (3), (5) в уравнение (1), найдем

( ) [ ]2 20 1 1 12 ln( ) 0i u ik u p u ik u q u ik u k u Ku Qu a bu⎡ ⎤′ ′ ′′ ′⎡α + + β + ⎤ + β + β − + + + ε =⎣ ⎦ ⎣ ⎦ . (6)

Из (6) вытекает, что должны выполняться следующие соотношения:

( )12 0p k q u′α + β + β = ; (7)

46

ln( )u Au Bu bu′′ = − , (8)

где

( )20 1 12 2

1 , QA k pk qk K aQ Bq q

ε= + + − − =

β β.

Рассмотрим ситуацию, когда ( ) const 0u cξ = = > . Тогда уравнение (7) будет выполнено. Из уравнения (8) найдем

( )1 expc A Bb

= . (9)

Следовательно, справедлива Т е о р е м а 1. Пусть α ≠ β . Тогда система (1), (2) имеет решение вида

( ){ }0 1( , ) exp ; ( , ) ln( )t x c i k t k x t x a bcψ = + + δ ϕ = + ε ,

где постоянная c определяется формулой (9). Рассмотрим ситуацию, когда выполняется соотношение

12 0p k qα + β + β = . (10)

Тогда уравнение (7) будет выполняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (8). Решение уравнения (8) строится в виде функции Гаусса

( )2( ) expu ξ = λ −μξ , (11)

где 0, 0λ > μ > − неизвестные параметры. Т е о р е м а 2. Для того чтобы уравнение (8) имело решение вида (11) необходимо и доста-

точно, чтобы выполнялись следующие соотношения:

11 12exp ; , 0

4

A BB B

b B

⎛ ⎞+⎜ ⎟λ = μ = >⎜ ⎟

⎜ ⎟⎜ ⎟⎝ ⎠

. (12)

На основании теоремы 2 устанавливается Т е о р е м а 3. Пусть α ≠ β и выполняются соотношения (10), (12). Тогда система (1), (2)

имеет решение вида

{ }20 1

2

( , ) exp( )exp ( ) ;

( , ) ln( ) .

t x i k t k x

t x a b

ψ = λ −μξ + + δ

⎡ ⎤ϕ = + ε λ −μξ⎣ ⎦

Отметим, что lim ( , ) 0t xξ→±∞

ψ = .

II. Рассмотрим систему уравнений Захарова с логарифмическим законом нелинейности в симметричной форме


2 2

ln ln 0tt xxxx

M Nt x

⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞ϕ − ϕ + ψ + ψ =⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦, (14)

где , , , , ,p q K Q M N − произвольные действительные числа. Решение системы (13), (14) строит-ся в виде (3). Подставляя (3) в уравнение (14), найдем

46

ln( )u Au Bu bu′′ = − , (8)

где

( )20 1 12 2


ε= + + − − =

β β.


( )1 expc A Bb

= . (9)

Следовательно, справедлива Т е о р е м а 1. Пусть α ≠ β . Тогда система (1), (2) имеет решение вида

( ){ }0 1( , ) exp ; ( , ) ln( )t x c i k t k x t x a bcψ = + + δ ϕ = + ε ,

где постоянная c определяется формулой (9). Рассмотрим ситуацию, когда выполняется соотношение

12 0p k qα + β + β = . (10)

Тогда уравнение (7) будет выполняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (8). Решение уравнения (8) строится в виде функции Гаусса

( )2( ) expu ξ = λ −μξ , (11)

где 0, 0λ > μ > − неизвестные параметры. Т е о р е м а 2. Для того чтобы уравнение (8) имело решение вида (11) необходимо и доста-

точно, чтобы выполнялись следующие соотношения:

11 12exp ; , 0

4

A BB B

b B

⎛ ⎞+⎜ ⎟λ = μ = >⎜ ⎟

⎜ ⎟⎜ ⎟⎝ ⎠

. (12)

На основании теоремы 2 устанавливается Т е о р е м а 3. Пусть α ≠ β и выполняются соотношения (10), (12). Тогда система (1), (2)

имеет решение вида

{ }20 1

2

( , ) exp( )exp ( ) ;

( , ) ln( ) .

t x i k t k x

t x a b

ψ = λ −μξ + + δ

⎡ ⎤ϕ = + ε λ −μξ⎣ ⎦

Отметим, что lim ( , ) 0t xξ→±∞

ψ = .

II. Рассмотрим систему уравнений Захарова с логарифмическим законом нелинейности в симметричной форме


2 2

ln ln 0tt xxxx

M Nt x

⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞ϕ − ϕ + ψ + ψ =⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦, (14)

где , , , , ,p q K Q M N − произвольные действительные числа. Решение системы (13), (14) строит-ся в виде (3). Подставляя (3) в уравнение (14), найдем

47

( )2 2

2 2 2 ln ln 0,v M u N ut x

″⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞′′α −β +β + = α ≠ β⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

. (15)


2 2

( ) ln ( ) ln ( )v a M u N ut x

⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞ξ = + ε ξ + ξ⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦, (16)

2

2 2 2 2,a γ β= ε =α −β β −α

,

где γ − произвольная постоянная. Подставляя (3), (16) в уравнение (13), найдем

[ ] 2 20 1 1 1

2 2

( ) 2

ln ln 0.

i u ik u p u ik u q u ik u k u Ku

Qu a M u N ut x

⎡ ⎤′ ′ ′′ ′α + + β + + β + β − + +⎣ ⎦⎡ ⎤⎧ ⎫∂ ∂⎪ ⎪⎛ ⎞ ⎛ ⎞⎢ ⎥+ ε + =⎨ ⎬⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎪ ⎪⎩ ⎭⎣ ⎦

(17)

Из уравнения (17) следует, что должны выполняться следующие соотношения:

( )12 ( ) 0p qk u′α + β + β ξ = ; (18)

2 2

ln lnu Au Bu M u N ut x

⎧ ⎫∂ ∂⎪ ⎪⎛ ⎞ ⎛ ⎞′′ = − +⎨ ⎬⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎪ ⎪⎩ ⎭, (19)

где

( )20 1 12 2


ε= + + − − =

β β.

Рассмотрим ситуацию, когда ( ) const 0u cξ = = > . Тогда уравнение (18) будет выполнено. Из уравнения (19) найдем 0A = или

20 1 1 0k pk qk K aQ+ + − − = . (20)

Следовательно, справедлива Т е о р е м а 4. Пусть α ≠ β и выполнено соотношение (20). Тогда система (13), (14) имеет

решение вида

( ){ }0 1( , ) exp ; ( , )t x c i k t k x t x aψ = + + δ ϕ = ,

где c − произвольная положительная постоянная. Рассмотрим ситуацию, когда выполнено соотношение (10). Тогда уравнение (18) будет вы-

полняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (19). Решение уравнения (19) строится в виде (11), где 0, 0λ > μ > − неизвестные параметры.

Т е о р е м а 5. Для того чтобы уравнение (19) имело решение вида (11) необходимо и дос-таточно, чтобы выполнялись следующие соотношения:

2 21 1, 0;2

A A M NB

μ = − < α +β = − . (21)

На основании теоремы 5 устанавливается Т е о р е м а 6. Пусть α ≠ β и выполняются соотношения (10), (21). Тогда система (13),

(14) имеет решение вида

47

( )2 2

2 2 2 ln ln 0,v M u N ut x

″⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞′′α −β +β + = α ≠ β⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

. (15)


2 2

( ) ln ( ) ln ( )v a M u N ut x

⎡ ⎤∂ ∂⎛ ⎞ ⎛ ⎞ξ = + ε ξ + ξ⎢ ⎥⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦, (16)

2

2 2 2 2,a γ β= ε =α −β β −α

,

где γ − произвольная постоянная. Подставляя (3), (16) в уравнение (13), найдем

[ ] 2 20 1 1 1

2 2

( ) 2

ln ln 0.

i u ik u p u ik u q u ik u k u Ku

Qu a M u N ut x

⎡ ⎤′ ′ ′′ ′α + + β + + β + β − + +⎣ ⎦⎡ ⎤⎧ ⎫∂ ∂⎪ ⎪⎛ ⎞ ⎛ ⎞⎢ ⎥+ ε + =⎨ ⎬⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎢ ⎥⎪ ⎪⎩ ⎭⎣ ⎦

(17)


( )12 ( ) 0p qk u′α + β + β ξ = ; (18)

2 2

ln lnu Au Bu M u N ut x

⎧ ⎫∂ ∂⎪ ⎪⎛ ⎞ ⎛ ⎞′′ = − +⎨ ⎬⎜ ⎟ ⎜ ⎟∂ ∂⎝ ⎠ ⎝ ⎠⎪ ⎪⎩ ⎭, (19)

где

( )20 1 12 2


ε= + + − − =

β β.

Рассмотрим ситуацию, когда ( ) const 0u cξ = = > . Тогда уравнение (18) будет выполнено. Из уравнения (19) найдем 0A = или

20 1 1 0k pk qk K aQ+ + − − = . (20)

Следовательно, справедлива Т е о р е м а 4. Пусть α ≠ β и выполнено соотношение (20). Тогда система (13), (14) имеет

решение вида

( ){ }0 1( , ) exp ; ( , )t x c i k t k x t x aψ = + + δ ϕ = ,

где c − произвольная положительная постоянная. Рассмотрим ситуацию, когда выполнено соотношение (10). Тогда уравнение (18) будет вы-

полняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (19). Решение уравнения (19) строится в виде (11), где 0, 0λ > μ > − неизвестные параметры.

Т е о р е м а 5. Для того чтобы уравнение (19) имело решение вида (11) необходимо и дос-таточно, чтобы выполнялись следующие соотношения:

2 21 1, 0;2

A A M NB

μ = − < α +β = − . (21)

На основании теоремы 5 устанавливается Т е о р е м а 6. Пусть α ≠ β и выполняются соотношения (10), (21). Тогда система (13),


48

( ) ( ){ }2 2 2 2 20 1( , ) exp exp ; ( , ) 4t x i k t k x t x a M N⎡ ⎤ψ = λ −μξ + + δ ϕ = + μ ξ ε α + β⎣ ⎦ ,

где λ − произвольная положительная постоянная. III. Рассмотрим систему уравнений Захарова с нелинейностью сложной структуры


{ } ( ) ( )1 ln ln 0xx

tt xx t xA B D a R b−⎡ ⎤ϕ − ϕ + ψ + ψ ψ + ψ + −ρ ψ =⎢ ⎥⎣ ⎦, (23)

где , , , , , , , , 0, 0, 0p q K Q A B D R a b> ρ > > − произвольные действительные числа. Решение сис-темы (22), (23) строится в виде (3). Подставляя (3) в уравнение (23), найдем

{ } ( ) ( )2 2 2 1( ) ln ln 0t xv Au Bu u D au R bu− ″⎡ ⎤′′α −β +β + + + −ρ =⎣ ⎦ . (24)


{ } ( ) ( )1( ) ln lnt xv M N Au Bu u D au R bu−⎡ ⎤ξ = + + + + −ρ⎣ ⎦ , (25)

где 2

2 2 2 2, ,M Nγ β= = α ≠ βα −β β −α

, γ − произвольная постоянная. Подставляя (3), (25)

в уравнение (22), найдем

( )

12 2

0 1 1

1

( ) 2

{ } ln( ) ln 0.

i u ik u p u ik u q u ik u k u Ku MQu

QN A B u u D au R bu u−

⎡ ⎤ ⎡ ⎤′ ′ ′′ ′α + + β + + β + β − + + +⎣ ⎦⎣ ⎦⎡ ⎤′α + β + + −ρ =⎣ ⎦

(26)


1( 2 ) ( ) 0p qk u′α + β + β ξ = ; (27)

( )

2 20 1 1

1

{ } ln( ) ln 0.

k u pk u q u qk u Ku MQu


′′− − + β − + + +

⎡ ⎤′α + β + + −ρ =⎣ ⎦ (28)


( )20 1 1 ln( ) ln 0, ( 1)k pk qk K MQ QN D ac R bc bc⎡ ⎤− − − + + + + −ρ = ≤⎣ ⎦ . (29)

Следовательно, справедлива Т е о р е м а 7. Пусть α ≠ β и пусть уравнение (29) имеет положительные решения с∗ . Тогда

система (22), (23) имеет решения вида

( ){ } ( )0 1( , ) exp ; ( , ) ln( ) lnt x с i k t k x t x M N D ac R bc∗ ∗ ∗⎡ ⎤ψ = + + δ ϕ = + + −ρ⎢ ⎥⎣ ⎦,

если 1bc∗ ≤ . Рассмотрим ситуацию, когда выполнено соотношение (10). Тогда уравнение (27) будет вы-

полняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (28). Решение

уравнения (28) строится в виде (11), где 1 , 0b

λ = μ > − неизвестный параметр.

Т е о ре м а 8. Для того чтобы уравнение (28) имело решение вида

21( ) exp( )ub

ξ = −μξ (30)

48

( ) ( ){ }2 2 2 2 20 1( , ) exp exp ; ( , ) 4t x i k t k x t x a M N⎡ ⎤ψ = λ −μξ + + δ ϕ = + μ ξ ε α + β⎣ ⎦ ,

где λ − произвольная положительная постоянная. III. Рассмотрим систему уравнений Захарова с нелинейностью сложной структуры


{ } ( ) ( )1 ln ln 0xx

tt xx t xA B D a R b−⎡ ⎤ϕ − ϕ + ψ + ψ ψ + ψ + −ρ ψ =⎢ ⎥⎣ ⎦, (23)

где , , , , , , , , 0, 0, 0p q K Q A B D R a b> ρ > > − произвольные действительные числа. Решение сис-темы (22), (23) строится в виде (3). Подставляя (3) в уравнение (23), найдем

{ } ( ) ( )2 2 2 1( ) ln ln 0t xv Au Bu u D au R bu− ″⎡ ⎤′′α −β +β + + + −ρ =⎣ ⎦ . (24)


{ } ( ) ( )1( ) ln lnt xv M N Au Bu u D au R bu−⎡ ⎤ξ = + + + + −ρ⎣ ⎦ , (25)

где 2

2 2 2 2, ,M Nγ β= = α ≠ βα −β β −α

, γ − произвольная постоянная. Подставляя (3), (25)

в уравнение (22), найдем

( )

12 2

0 1 1

1

( ) 2

{ } ln( ) ln 0.

i u ik u p u ik u q u ik u k u Ku MQu


⎡ ⎤ ⎡ ⎤′ ′ ′′ ′α + + β + + β + β − + + +⎣ ⎦⎣ ⎦⎡ ⎤′α + β + + −ρ =⎣ ⎦

(26)


1( 2 ) ( ) 0p qk u′α + β + β ξ = ; (27)

( )

2 20 1 1

1

{ } ln( ) ln 0.

k u pk u q u qk u Ku MQu


′′− − + β − + + +

⎡ ⎤′α + β + + −ρ =⎣ ⎦ (28)


( )20 1 1 ln( ) ln 0, ( 1)k pk qk K MQ QN D ac R bc bc⎡ ⎤− − − + + + + −ρ = ≤⎣ ⎦ . (29)

Следовательно, справедлива Т е о р е м а 7. Пусть α ≠ β и пусть уравнение (29) имеет положительные решения с∗ . Тогда

система (22), (23) имеет решения вида

( ){ } ( )0 1( , ) exp ; ( , ) ln( ) lnt x с i k t k x t x M N D ac R bc∗ ∗ ∗⎡ ⎤ψ = + + δ ϕ = + + −ρ⎢ ⎥⎣ ⎦,

если 1bc∗ ≤ . Рассмотрим ситуацию, когда выполнено соотношение (10). Тогда уравнение (27) будет вы-

полняться для любой гладкой функции ( )u ξ , которая определяется из уравнения (28). Решение

уравнения (28) строится в виде (11), где 1 , 0b

λ = μ > − неизвестный параметр.

Т е о ре м а 8. Для того чтобы уравнение (28) имело решение вида

21( ) exp( )ub

ξ = −μξ (30)

49

необходимо и достаточно, чтобы выполнялись следующие соотношения:

2

0 1 12

2

1 ln ;2

4 ; 2 ( ).

aK MQ k pk qk DQNbq

q DQN R A B

⎡ ⎤⎛ ⎞μ = + − − − + ⎜ ⎟⎢ ⎥β ⎝ ⎠⎣ ⎦

β μ = ρ = μ α + β

(31)

Из (31) следует, что коэффициенты системы (22), (23) и параметры искомой волны (30) должны быть связаны соотношениями

20 1 1

1ln2

aK MQ k pk qk DQN DQNb

⎛ ⎞+ − − − + =⎜ ⎟⎝ ⎠

;

2

2 2( )R DQN

A B qρ

=α + β β

.

На основании теоремы (8) устанавливается Т е о р е м а 9. Пусть α ≠ β и выполняются соотношения (10), (31). Тогда система (22),


( ){ }20 1

1( , ) exp( )expt x i k t k xb

ψ = −μξ + + δ ;

2( , ) 2 ( ) ln at x M N A B D Rb

⎡ ⎤⎧ ⎫⎛ ⎞ϕ = + − μξ α + β + −μξ + ρμ ξ⎨ ⎬⎢ ⎥⎜ ⎟⎝ ⎠⎩ ⎭⎣ ⎦

.

В заключение отметим, что полученные результаты расширяют класс систем Захарова, допускающих солитоноподобные решения [4].


1. Ж е с т к о в С. В. // Докл. НАН Беларуси. 2007. Т. 51, № 5. С. 47–51. 2. K o n o p e l c h e n k o B. G. Solitons in multidimensions: inverse spectral transform method. Singapore; New Jersey;

London; Hong Kong, 1993. 3. В о л о б у е в А. Н. // Матем. моделирование. 2005. Т. 17, № 2. С. 103–108. 4. Ж е с т к о в С. В. // Докл. НАН Беларуси. 2008. Т. 52, № 6. С. 49–53.

ZHESTKOV S. V.

[email protected]

CONSTRUCTING SOLITON-LIKE SOLUTIONS OF ZAKHAROV’S SYSTEMS WITH THE LOGARITHMIC LAWS OF NONLINEARITY

Summary

The method of constructing soliton-like solutions of Zakharov’s systems is developed.

49

необходимо и достаточно, чтобы выполнялись следующие соотношения:

2

0 1 12

2

1 ln ;2

4 ; 2 ( ).

aK MQ k pk qk DQNbq

q DQN R A B

⎡ ⎤⎛ ⎞μ = + − − − + ⎜ ⎟⎢ ⎥β ⎝ ⎠⎣ ⎦

β μ = ρ = μ α + β

(31)

Из (31) следует, что коэффициенты системы (22), (23) и параметры искомой волны (30) должны быть связаны соотношениями

20 1 1

1ln2

aK MQ k pk qk DQN DQNb

⎛ ⎞+ − − − + =⎜ ⎟⎝ ⎠

;

2

2 2( )R DQN

A B qρ

=α + β β

.

На основании теоремы (8) устанавливается Т е о р е м а 9. Пусть α ≠ β и выполняются соотношения (10), (31). Тогда система (22),


( ){ }20 1

1( , ) exp( )expt x i k t k xb

ψ = −μξ + + δ ;

2( , ) 2 ( ) ln at x M N A B D Rb

⎡ ⎤⎧ ⎫⎛ ⎞ϕ = + − μξ α + β + −μξ + ρμ ξ⎨ ⎬⎢ ⎥⎜ ⎟⎝ ⎠⎩ ⎭⎣ ⎦

.

В заключение отметим, что полученные результаты расширяют класс систем Захарова, допускающих солитоноподобные решения [4].


1. Ж е с т к о в С. В. // Докл. НАН Беларуси. 2007. Т. 51, № 5. С. 47–51. 2. K o n o p e l c h e n k o B. G. Solitons in multidimensions: inverse spectral transform method. Singapore; New Jersey;

London; Hong Kong, 1993. 3. В о л о б у е в А. Н. // Матем. моделирование. 2005. Т. 17, № 2. С. 103–108. 4. Ж е с т к о в С. В. // Докл. НАН Беларуси. 2008. Т. 52, № 6. С. 49–53.

ZHESTKOV S. V.

[email protected]

CONSTRUCTING SOLITON-LIKE SOLUTIONS OF ZAKHAROV’S SYSTEMS WITH THE LOGARITHMIC LAWS OF NONLINEARITY

Summary

The method of constructing soliton-like solutions of Zakharov’s systems is developed.

50



УДК 539.12

В. В. КУДРЯШОВ, Ю. А. КУРОЧКИН, Е. М. ОВСИЮК, В. М. РЕДЬКОВ

ДВИЖЕНИЕ ЧАСТИЦЫ В МАГНИТНОМ ПОЛЕ В ПРОСТРАНСТВЕ ЛОБАЧЕВСКОГО


Институт физики им. Б. И. Степанова НАН Беларуси, Минск Поступило 15.06.2009

Хорошо известно точное решение задачи о релятивистском движении частицы в постоянном однородном магнитном поле в случае евклидового пространства [1] и ее квантовомеханический аналог [2; 3]. В работах [4; 5] было решено уравнение Шредингера для частицы в однородном магнитном поле на фоне пространства Лобачевского, при этом обобщенное магнитное поле и уравнение Шредингера в этом поле представлены в специальной системе цилиндрических ко-ординат в пространстве Лобачевского.

В настоящей работе дано точное решение задачи о движении классической релятивистской частицы в пространстве Лобачевского в присутствии внешнего магнитного поля. Это решение может представлять интерес для описания поведения потоков заряженных частиц в макроскопи-ческих магнитных полях в контексте космологических моделей, а также для моделирования по-ведения плазмы в магнитных полях специальной конфигурации.

Исходим из специальной системы цилиндрических координат в пространстве Лобачевского, описанной в работе [6] под номером 11:

2 2 2 2 2 2 2 2 2 2ch ( / ) ch ( / ) sh ( / ) ,dS c dt z dr z r d dz= − ρ −ρ ρ ρ φ − ( , ), [0, ), [0,2 ] ,z r∈ −∞ +∞ ∈ +∞ φ∈ π (1)

где ρ – радиус кривизны пространства. Криволинейные координаты ( , , )r zφ трехмерного про-странства Лобачевского связаны с квазидекартовыми координатами объемлющего четырехмер-ного псевдоевклидового пространства соотношениями

1 2ch( / ) sh( / ) cos ; ch( / ) sh( / ) sin ;u z r u z r= ρ ρ ρ φ = ρ ρ ρ φ

3 0 sh( / ) ; ch( / ) ch( / ) ;u z u z r= ρ ρ = ρ ρ ρ 2 2 2 3 2 2 20 1 2 3 0; .u u u u u− − − = ρ = + ρ + u

Метрика (1) задает выражение для квадрата скорости частицы

2 2 2

2 2 2ch ( / ) sh ( / ) .dr d dzz rdt dt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ε = ρ + ρ ρ +⎢ ⎥⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

(2)

Потенциал магнитного поля выбираем в соответствии с [4; 5]:

2 [ ch( / ) 1] .A B rφ = −ρ ρ − (3)

Потенциал (3) является обобщением потенциала постоянного однородного магнитного поля напряженности B, направленного вдоль оси z в евклидовом пространстве при использовании ци-линдрической системы координат. Этот потенциал является решением уравнений Максвелла в пространстве Лобачевского; здесь они сводятся к единственному уравнению

50



УДК 539.12

В. В. КУДРЯШОВ, Ю. А. КУРОЧКИН, Е. М. ОВСИЮК, В. М. РЕДЬКОВ

ДВИЖЕНИЕ ЧАСТИЦЫ В МАГНИТНОМ ПОЛЕ В ПРОСТРАНСТВЕ ЛОБАЧЕВСКОГО


Институт физики им. Б. И. Степанова НАН Беларуси, Минск Поступило 15.06.2009

Хорошо известно точное решение задачи о релятивистском движении частицы в постоянном однородном магнитном поле в случае евклидового пространства [1] и ее квантовомеханический аналог [2; 3]. В работах [4; 5] было решено уравнение Шредингера для частицы в однородном магнитном поле на фоне пространства Лобачевского, при этом обобщенное магнитное поле и уравнение Шредингера в этом поле представлены в специальной системе цилиндрических ко-ординат в пространстве Лобачевского.

В настоящей работе дано точное решение задачи о движении классической релятивистской частицы в пространстве Лобачевского в присутствии внешнего магнитного поля. Это решение может представлять интерес для описания поведения потоков заряженных частиц в макроскопи-ческих магнитных полях в контексте космологических моделей, а также для моделирования по-ведения плазмы в магнитных полях специальной конфигурации.

Исходим из специальной системы цилиндрических координат в пространстве Лобачевского, описанной в работе [6] под номером 11:

2 2 2 2 2 2 2 2 2 2ch ( / ) ch ( / ) sh ( / ) ,dS c dt z dr z r d dz= − ρ −ρ ρ ρ φ − ( , ), [0, ), [0,2 ] ,z r∈ −∞ +∞ ∈ +∞ φ∈ π (1)

где ρ – радиус кривизны пространства. Криволинейные координаты ( , , )r zφ трехмерного про-странства Лобачевского связаны с квазидекартовыми координатами объемлющего четырехмер-ного псевдоевклидового пространства соотношениями

1 2ch( / ) sh( / ) cos ; ch( / ) sh( / ) sin ;u z r u z r= ρ ρ ρ φ = ρ ρ ρ φ

3 0 sh( / ) ; ch( / ) ch( / ) ;u z u z r= ρ ρ = ρ ρ ρ 2 2 2 3 2 2 20 1 2 3 0; .u u u u u− − − = ρ = + ρ + u

Метрика (1) задает выражение для квадрата скорости частицы

2 2 2

2 2 2ch ( / ) sh ( / ) .dr d dzz rdt dt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ε = ρ + ρ ρ +⎢ ⎥⎜ ⎟ ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

(2)

Потенциал магнитного поля выбираем в соответствии с [4; 5]:

2 [ ch( / ) 1] .A B rφ = −ρ ρ − (3)

Потенциал (3) является обобщением потенциала постоянного однородного магнитного поля напряженности B, направленного вдоль оси z в евклидовом пространстве при использовании ци-линдрической системы координат. Этот потенциал является решением уравнений Максвелла в пространстве Лобачевского; здесь они сводятся к единственному уравнению

51

21 0, ch ( / ) sh ( / ).rr g F g z r

g xφ∂

− = − = ρ ρ− ∂

Релятивистский лагранжиан для частицы в этом магнитном поле имеет вид

( )2

221 ch( / ) 1 .eB dL mc r

c dtcε ρ φ⎛ ⎞= − − + ρ − ⎜ ⎟

⎝ ⎠ (4)

Система уравнений Лагранжа второго порядка выглядит следующим образом:

2

2 22 th( / ) sh( / ) ch( / ) 0 ;ch ( / )

d r dz dr d dz r rdt dt dt dtdt z

⎡ ⎤φ ω φ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞+ ρ −ρ ρ ρ + =⎢ ⎥⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ρ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎣ ⎦ (5)

2 2 2 2sh ( / ) ch ( / ) (ch( / ) 1) 0 ;d dr z rdt dt

⎡ ⎤φ⎛ ⎞ρ ρ ρ +ωρ ρ − =⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ (6)

2 22

2 22

1 ch( / ) sh( / ) sh ( / ) 0 .d z dr dz z rdt dtdt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞− ρ ρ + ρ ρ =⎢ ⎥⎜ ⎟ ⎜ ⎟ρ ⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦ (7)

Здесь введено обозначение для величины c размерностью частоты

21 .eBmc c

εω = − (8)

Квадрат скорости ε является интегралом движения для рассматриваемой системы в про-странстве Лобачевского также, как и в случае евклидова пространства. Наряду с ε интегралом движения, очевидно, является величина

2 2 2 2sh ( / ) ch ( / ) (ch( / ) 1) ,dI r z rdtφ⎛ ⎞= ρ ρ ρ + ωρ ρ −⎜ ⎟

⎝ ⎠ (9)

обобщающая обычный угловой момент. В дополнение к сохраняющимся величинам ε и I можно показать, что интегралом движения будет третья величина

2 2

4 2 2ch ( / ) sh ( / ) ,dr dA z rdt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞= ρ + ρ ρ⎢ ⎥⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

(10)

которая при ρ→∞ переходит в квадрат скорости перпендикулярного к z движения. Таким образом, использование цилиндрической системы координат позволяет найти простые

аналитические выражения для трех интегралов движения, что, в свою очередь, позволяет совер-шить переход от исходной системы уравнений второго порядка (5)–(7) к системе уравнений пер-вого порядка следующего вида

2

2 ;ch ( / )

dz Adt z

⎛ ⎞ = ε −⎜ ⎟ρ⎝ ⎠

(11)

2 2 2

4 2 21 [ (ch( / ) 1 )] ;

ch ( / ) sh ( / )dr I rAdt z r

⎡ ⎤−ωρ ρ −⎛ ⎞ = −⎢ ⎥⎜ ⎟ ρ ρ ρ⎝ ⎠ ⎢ ⎥⎣ ⎦ (12)

2

2 2 2(ch( / ) 1) .

sh ( / ) ch ( / )d I rdt r zφ −ωρ ρ −=ρ ρ ρ

(13)

В первую очередь рассмотрим уравнение (11). Оно имеет два типа решения в зависимости от знака величины Aε − .

51

21 0, ch ( / ) sh ( / ).rr g F g z r

g xφ∂

− = − = ρ ρ− ∂

Релятивистский лагранжиан для частицы в этом магнитном поле имеет вид

( )2

221 ch( / ) 1 .eB dL mc r

c dtcε ρ φ⎛ ⎞= − − + ρ − ⎜ ⎟

⎝ ⎠ (4)

Система уравнений Лагранжа второго порядка выглядит следующим образом:

2

2 22 th( / ) sh( / ) ch( / ) 0 ;ch ( / )

d r dz dr d dz r rdt dt dt dtdt z

⎡ ⎤φ ω φ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞+ ρ −ρ ρ ρ + =⎢ ⎥⎜ ⎟ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ρ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠⎣ ⎦ (5)

2 2 2 2sh ( / ) ch ( / ) (ch( / ) 1) 0 ;d dr z rdt dt

⎡ ⎤φ⎛ ⎞ρ ρ ρ +ωρ ρ − =⎜ ⎟⎢ ⎥⎝ ⎠⎣ ⎦ (6)

2 22

2 22

1 ch( / ) sh( / ) sh ( / ) 0 .d z dr dz z rdt dtdt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞− ρ ρ + ρ ρ =⎢ ⎥⎜ ⎟ ⎜ ⎟ρ ⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦ (7)

Здесь введено обозначение для величины c размерностью частоты

21 .eBmc c

εω = − (8)

Квадрат скорости ε является интегралом движения для рассматриваемой системы в про-странстве Лобачевского также, как и в случае евклидова пространства. Наряду с ε интегралом движения, очевидно, является величина

2 2 2 2sh ( / ) ch ( / ) (ch( / ) 1) ,dI r z rdtφ⎛ ⎞= ρ ρ ρ + ωρ ρ −⎜ ⎟

⎝ ⎠ (9)

обобщающая обычный угловой момент. В дополнение к сохраняющимся величинам ε и I можно показать, что интегралом движения будет третья величина

2 2

4 2 2ch ( / ) sh ( / ) ,dr dA z rdt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞= ρ + ρ ρ⎢ ⎥⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠⎢ ⎥⎣ ⎦

(10)

которая при ρ→∞ переходит в квадрат скорости перпендикулярного к z движения. Таким образом, использование цилиндрической системы координат позволяет найти простые

аналитические выражения для трех интегралов движения, что, в свою очередь, позволяет совер-шить переход от исходной системы уравнений второго порядка (5)–(7) к системе уравнений пер-вого порядка следующего вида

2

2 ;ch ( / )

dz Adt z

⎛ ⎞ = ε −⎜ ⎟ρ⎝ ⎠

(11)

2 2 2

4 2 21 [ (ch( / ) 1 )] ;

ch ( / ) sh ( / )dr I rAdt z r

⎡ ⎤−ωρ ρ −⎛ ⎞ = −⎢ ⎥⎜ ⎟ ρ ρ ρ⎝ ⎠ ⎢ ⎥⎣ ⎦ (12)

2

2 2 2(ch( / ) 1) .

sh ( / ) ch ( / )d I rdt r zφ −ωρ ρ −=ρ ρ ρ

(13)

В первую очередь рассмотрим уравнение (11). Оно имеет два типа решения в зависимости от знака величины Aε − .

52

Когда Aε > ,

0sh( ( ) / ) 1 sh ( ( ) / ) ;Az t t tρ = ± − ε − ρε

(14)

20

( ) .( ) sh ( ( ) / )

dz t Adt A t t

ε= ± ε −

ε − ε − ρ + ε (15)

В этом случае частица при 0t t= проходит через точку 0z = со скоростью /dz dt A= ± ε − . Когда Aε < ,

0sh( ( ) / ) 1 сh ( ( ) / ) ;Az t t tρ = ± − ε − ρε

(16)

20

( ) .( ) sh ( ( ) / )

dz t Adt A t t A

ε= ± ε −

− ε ε − ρ + (17)

В этом случае частица движется либо в области sh( / ) / 1z Aρ > ε − , либо в области sh( / )z ρ < / 1A− ε − , т. е. имеет место отталкивание в обе стороны оси z, приводящее к запрещенной для

движения области в центре. Следует отметить, что в случае евклидова пространства (ρ→∞ ) движение вдоль оси z происходит с постоянной скоростью, а в случае пространства Лобачевского скорость движения вдоль оси z меняется.

Из системы уравнений (11)–(13) видно, что после установления зависимости z(t) дальнейшее решение задачи сводится к следующим квадратурам:

2 2 2 2 2

sh( / ) ;sh ( / ) [ (ch( / ) 1 )] ch ( / ) ch ( / )

r dr dz

A r I r z z A

ρ ρ= ±

ρ ρ − −ωρ ρ − ρ ε ρ −∫ ∫ (18)

2

0 2 2 2 2

[ (ch ( / ) 1 )] .sh ( / ) sh ( / ) [ (ch( / ) 1)]

I r dr

r A r I r

−ωρ ρ −φ − φ = ±

ρ ρ ρ ρ − −ωρ ρ −∫ (19)

Формула (18) определяет зависимость ( )r z , а формула (19) определяет зависимость ( )rφ . Обе эти формулы задают траекторию частицы.

Остановимся подробнее на связи φ и r. Интегрирование в (19) дает следующее соотношение

2 20( ) ch( / ) sh( / ) cos( ) ,I r C r+ ωρ ρ − ρ ρ φ − φ = ωρ (20)

где

2 2 2 22

1 ( ) .C A I= −ρ ω + +ωρρ

(21)

Величина C, будучи функцией от A, I, является интегралом движения и имеет явный вид

22

4 2 2 2ch ( / ) sh ( / ) ch( / ) ch ( / ) , 0 .dr dC z r r z Cdt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞= ρ + ρ ρ ρ ρ + ω ≥⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎝ ⎠⎣ ⎦ (22)

Сопоставим формулу (20) с известной формулой

0 0ch( / ) ch( / ) sh( / ) sh( / ) cos( ) ch( / ) ,R r R r rρ ρ − ρ ρ φ − φ = ρ (23)

описывающей в пространстве Лобачевского окружность радиуса 0r с центром, находящимся на расстоянии R от начала координат. Они совпадают, если

2

0 2 2 2 2 2

1ch( / ) ; ch( / ) .1 / 1 /

Ir RA A

+ ωρρ = ρ =

− ω ρ ωρ − ω ρ (24)

52

Когда Aε > ,

0sh( ( ) / ) 1 sh ( ( ) / ) ;Az t t tρ = ± − ε − ρε

(14)

20

( ) .( ) sh ( ( ) / )

dz t Adt A t t

ε= ± ε −

ε − ε − ρ + ε (15)

В этом случае частица при 0t t= проходит через точку 0z = со скоростью /dz dt A= ± ε − . Когда Aε < ,

0sh( ( ) / ) 1 сh ( ( ) / ) ;Az t t tρ = ± − ε − ρε

(16)

20

( ) .( ) sh ( ( ) / )

dz t Adt A t t A

ε= ± ε −

− ε ε − ρ + (17)

В этом случае частица движется либо в области sh( / ) / 1z Aρ > ε − , либо в области sh( / )z ρ < / 1A− ε − , т. е. имеет место отталкивание в обе стороны оси z, приводящее к запрещенной для

движения области в центре. Следует отметить, что в случае евклидова пространства (ρ→∞ ) движение вдоль оси z происходит с постоянной скоростью, а в случае пространства Лобачевского скорость движения вдоль оси z меняется.

Из системы уравнений (11)–(13) видно, что после установления зависимости z(t) дальнейшее решение задачи сводится к следующим квадратурам:

2 2 2 2 2

sh( / ) ;sh ( / ) [ (ch( / ) 1 )] ch ( / ) ch ( / )

r dr dz

A r I r z z A

ρ ρ= ±

ρ ρ − −ωρ ρ − ρ ε ρ −∫ ∫ (18)

2

0 2 2 2 2

[ (ch ( / ) 1 )] .sh ( / ) sh ( / ) [ (ch( / ) 1)]

I r dr

r A r I r

−ωρ ρ −φ − φ = ±

ρ ρ ρ ρ − −ωρ ρ −∫ (19)

Формула (18) определяет зависимость ( )r z , а формула (19) определяет зависимость ( )rφ . Обе эти формулы задают траекторию частицы.

Остановимся подробнее на связи φ и r. Интегрирование в (19) дает следующее соотношение

2 20( ) ch( / ) sh( / ) cos( ) ,I r C r+ ωρ ρ − ρ ρ φ − φ = ωρ (20)

где

2 2 2 22

1 ( ) .C A I= −ρ ω + +ωρρ

(21)

Величина C, будучи функцией от A, I, является интегралом движения и имеет явный вид

22

4 2 2 2ch ( / ) sh ( / ) ch( / ) ch ( / ) , 0 .dr dC z r r z Cdt dt

⎡ ⎤φ⎛ ⎞ ⎛ ⎞= ρ + ρ ρ ρ ρ + ω ≥⎜ ⎟ ⎜ ⎟⎢ ⎥⎝ ⎠ ⎝ ⎠⎣ ⎦ (22)

Сопоставим формулу (20) с известной формулой

0 0ch( / ) ch( / ) sh( / ) sh( / ) cos( ) ch( / ) ,R r R r rρ ρ − ρ ρ φ − φ = ρ (23)

описывающей в пространстве Лобачевского окружность радиуса 0r с центром, находящимся на расстоянии R от начала координат. Они совпадают, если

2

0 2 2 2 2 2

1ch( / ) ; ch( / ) .1 / 1 /

Ir RA A

+ ωρρ = ρ =

− ω ρ ωρ − ω ρ (24)

53

Таким образом, при выполнении условия 2 2A < ω ρ в пространстве Лобачевского реализуется движение по окружности, центр которой смещен относительно начала системы координат.

Переход к системе координат, начало которой совпадает с центром окружности, соответ- ствует нулевому значению интеграла движения C. В такой системе координат движение выгля-дит особенно просто. Из (22) видно, что при этом

0 20

0 , , .ch ( / ) ch ( / )

dr dr rdt dt r z

φ ω= = = −

ρ ρ (25)

В этом случае интегралы движения A и I выражаются через радиус окружности 0r следу- ющим образом:

2 2 2 20

0

1th ( / ); 1 .ch ( / )

A r Ir

⎡ ⎤= ω ρ ρ = ωρ −⎢ ⎥ρ⎣ ⎦

(26)

При учете (14)–(17) зависимость φ от t выражается формулами

0 00

( ) Arth ( ( ) / ) ;ch( / )

At th t tr A

⎡ ⎤ωρφ − φ = − ε − ρ⎢ ⎥ερ ⎣ ⎦

20 0

( ) 1ch ( / ) [( ) sh ( ( ) / ) ]

d tdt r A t tφ ωε

= −ρ ε − ε − ρ + ε

(27)

при Aε > и

0 00

( ) Arth th( ( ) / ) ;ch ( / )

t t tAr A

⎡ ⎤ωρ εφ − φ = − ε − ρ⎢ ⎥

ρ ⎣ ⎦

20 0

( ) 1ch ( / ) [( ) sh ( ( ) / ) ]

d tdt r A t t Aφ ωε

= −ρ − ε ε − ρ +

(28)

при Aε < . В евклидовом пространстве движение по окружности происходит с постоянной скоростью,

тогда как в пространстве Лобачевского угловая скорость меняется в процессе движения и стре-мится к нулю при t →∞ .

Авторы благодарят участников семинара лаборатории теоретической физики Института физики НАН Беларуси за обсуждение работы, полезные замечания и советы.

Литература 1. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Теория поля. М., 1973. 2. L a n d a u L. // Zeit. Phys. 1930. Bd. 64. S. 629–637. 3. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Квантовая механика, нерелятивистская теория. М., 1974. 4. B o g u s h A. A., R e d’ k o v V. M., K r y l o v G. G. // NPCS. 2009. Vol. 11, N 4. P. 403–413. 5. Б о г у ш А. А., Р е д ь к о в В. М., К р ы л о в Г. Г. // Докл. НАН Беларуси. 2009. Т. 53, № 2. С. 53–59. 6. О л е в с к и й М. Н. // Матем. сб. 1950. Т. 27. С. 379–426.

KUDRYASHOV V. V., KUROCHKIN Yu. A., OVSIYUK E. M., RED’KOV V. M.

[email protected]; [email protected]; [email protected]; [email protected]

MOTION OF A PARTICLE IN THE MAGNETIC FIELD IN THE LOBACHEVSKY SPACE

Summary We study the motion of a relativistic particle in the 3-dimensional Lobachevsky space in the presence of an external magnetic

field that is analogous to a constant uniform magnetic field in the Euclidean space. Three integrals of motions are found and the equations of motion are solved exactly in the cylindrical coordinates. The motion on the surface of the cylinder of constant radius is considered in detail.

53

Таким образом, при выполнении условия 2 2A < ω ρ в пространстве Лобачевского реализуется движение по окружности, центр которой смещен относительно начала системы координат.

Переход к системе координат, начало которой совпадает с центром окружности, соответ- ствует нулевому значению интеграла движения C. В такой системе координат движение выгля-дит особенно просто. Из (22) видно, что при этом

0 20

0 , , .ch ( / ) ch ( / )

dr dr rdt dt r z

φ ω= = = −

ρ ρ (25)

В этом случае интегралы движения A и I выражаются через радиус окружности 0r следу- ющим образом:

2 2 2 20

0

1th ( / ); 1 .ch ( / )

A r Ir

⎡ ⎤= ω ρ ρ = ωρ −⎢ ⎥ρ⎣ ⎦

(26)

При учете (14)–(17) зависимость φ от t выражается формулами

0 00

( ) Arth ( ( ) / ) ;ch( / )

At th t tr A

⎡ ⎤ωρφ − φ = − ε − ρ⎢ ⎥ερ ⎣ ⎦

20 0

( ) 1ch ( / ) [( ) sh ( ( ) / ) ]

d tdt r A t tφ ωε

= −ρ ε − ε − ρ + ε

(27)

при Aε > и

0 00

( ) Arth th( ( ) / ) ;ch ( / )

t t tAr A

⎡ ⎤ωρ εφ − φ = − ε − ρ⎢ ⎥

ρ ⎣ ⎦

20 0

( ) 1ch ( / ) [( ) sh ( ( ) / ) ]

d tdt r A t t Aφ ωε

= −ρ − ε ε − ρ +

(28)

при Aε < . В евклидовом пространстве движение по окружности происходит с постоянной скоростью,

тогда как в пространстве Лобачевского угловая скорость меняется в процессе движения и стре-мится к нулю при t →∞ .

Авторы благодарят участников семинара лаборатории теоретической физики Института физики НАН Беларуси за обсуждение работы, полезные замечания и советы.

Литература 1. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Теория поля. М., 1973. 2. L a n d a u L. // Zeit. Phys. 1930. Bd. 64. S. 629–637. 3. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Квантовая механика, нерелятивистская теория. М., 1974. 4. B o g u s h A. A., R e d’ k o v V. M., K r y l o v G. G. // NPCS. 2009. Vol. 11, N 4. P. 403–413. 5. Б о г у ш А. А., Р е д ь к о в В. М., К р ы л о в Г. Г. // Докл. НАН Беларуси. 2009. Т. 53, № 2. С. 53–59. 6. О л е в с к и й М. Н. // Матем. сб. 1950. Т. 27. С. 379–426.

KUDRYASHOV V. V., KUROCHKIN Yu. A., OVSIYUK E. M., RED’KOV V. M.

[email protected]; [email protected]; [email protected]; [email protected]

MOTION OF A PARTICLE IN THE MAGNETIC FIELD IN THE LOBACHEVSKY SPACE

Summary We study the motion of a relativistic particle in the 3-dimensional Lobachevsky space in the presence of an external magnetic

field that is analogous to a constant uniform magnetic field in the Euclidean space. Three integrals of motions are found and the equations of motion are solved exactly in the cylindrical coordinates. The motion on the surface of the cylinder of constant radius is considered in detail.

54



УДК 530.12;621.396

А. Г. ОНИЩУК1, Д. В. ПЕГАСИН1, Е. А. ТОЛКАЧЕВ2

ГРУППЫ СТАБИЛЬНОСТИ В ТЕОРИИ 4-ПОЛЮСНИКОВ

(Представлено членом-корреспондентом Л. М. Томильчиком) 1 Военная академия Республики Беларусь, Минск 2 Институт физики им. Б. И. Степанова НАН Беларуси, Минск Поступило 29.06.2009

Введение. Как известно, теоретико-групповые и тесно связанные с ними алгебраические и геометрические методы являются универсальным средством анализа и решения широкого спектра прикладных задач. В настоящей работе они применяются для обоснования и обобщения развиваемой на протяжении ряда лет одним из авторов данной работы геометрической теории согласования радиотехнических средств, обеспечивающих оптимальную передачу и обработку сигналов [1–4]. На конкретном примере будет показано, что и в этой сфере находит вполне есте-ственное применение бикватернионный вариант [5] векторной параметризации Ф. И. Федорова группы Лоренца и ее подгрупп [6], доказавшей свою эффективность в ряде задач релятивистской физики фундаментальных взаимодействий и распространения волн в анизотропных и гиротроп-ных средах [7].

Теоретическая часть. Рассмотрим типичное для радиофизики четырехполюсников опера-торное преобразование [3] Z MZ′ = или

, , 1,2k kl lZ M Z k l′ = = , или 1 11 12 1

2 21 22 2

z m m zz m m z′⎛ ⎞ ⎛ ⎞⎛ ⎞=⎜ ⎟ ⎜ ⎟⎜ ⎟′⎝ ⎠ ⎝ ⎠⎝ ⎠

, (1)

где все величины принадлежат к полю комплексных чисел. Матрицы передачи М общего вида образуют некоммутативное кольцо, а невырожденные матрицы М реализуют представление группы (2. )GL C , содержащей в качестве подгруппы универсальную накрывающую группы Лоренца – (2. )SL C .

Частным случаем физической реализации векторов двухмерного комплексного пространства является вектор-столбец, составленный из комплекснозначных напряжения – U и тока – I, эрми-тово сопряженный строке * *( , )Z U I+ = . Одинаковая размерность его компонент достигается, как принято в радиофизике, нормировкой относительно волнового сопротивления линии передачи. В работах одного из авторов [3] была предложена геометрическая трактовка мощности сигнала Р как расстояния в двухмерном комплексном пространстве с псевдоэрмитовой метрикой

* * *1 0 11 1Re( ) ( , )1 02 2 2kl k l

UP U I g Z Z Z Z U I

I+ + ⎛ ⎞ ⎛ ⎞σ

= = = = ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

, (2)

в индефинитности которой легко убедиться с помощью плоского поворота, связывающего 1σ в 3σ в трехмерном пространстве матриц Паули

2 22 2 4 43 2 1 1 1 2 3 3 3 3

(1 ) (1 ), .2 2

i ii ii O O i e e O Oπ π

− σ σ+ +− σ + σσ = σ σ = σ σ = − σ σ = σ = σ = σ (3)

Подставляя (3) в (2), получаем каноническое представление индефинитной метрики

54



УДК 530.12;621.396

А. Г. ОНИЩУК1, Д. В. ПЕГАСИН1, Е. А. ТОЛКАЧЕВ2

ГРУППЫ СТАБИЛЬНОСТИ В ТЕОРИИ 4-ПОЛЮСНИКОВ

(Представлено членом-корреспондентом Л. М. Томильчиком) 1 Военная академия Республики Беларусь, Минск 2 Институт физики им. Б. И. Степанова НАН Беларуси, Минск Поступило 29.06.2009

Введение. Как известно, теоретико-групповые и тесно связанные с ними алгебраические и геометрические методы являются универсальным средством анализа и решения широкого спектра прикладных задач. В настоящей работе они применяются для обоснования и обобщения развиваемой на протяжении ряда лет одним из авторов данной работы геометрической теории согласования радиотехнических средств, обеспечивающих оптимальную передачу и обработку сигналов [1–4]. На конкретном примере будет показано, что и в этой сфере находит вполне есте-ственное применение бикватернионный вариант [5] векторной параметризации Ф. И. Федорова группы Лоренца и ее подгрупп [6], доказавшей свою эффективность в ряде задач релятивистской физики фундаментальных взаимодействий и распространения волн в анизотропных и гиротроп-ных средах [7].

Теоретическая часть. Рассмотрим типичное для радиофизики четырехполюсников опера-торное преобразование [3] Z MZ′ = или

, , 1,2k kl lZ M Z k l′ = = , или 1 11 12 1

2 21 22 2

z m m zz m m z′⎛ ⎞ ⎛ ⎞⎛ ⎞=⎜ ⎟ ⎜ ⎟⎜ ⎟′⎝ ⎠ ⎝ ⎠⎝ ⎠

, (1)

где все величины принадлежат к полю комплексных чисел. Матрицы передачи М общего вида образуют некоммутативное кольцо, а невырожденные матрицы М реализуют представление группы (2. )GL C , содержащей в качестве подгруппы универсальную накрывающую группы Лоренца – (2. )SL C .

Частным случаем физической реализации векторов двухмерного комплексного пространства является вектор-столбец, составленный из комплекснозначных напряжения – U и тока – I, эрми-тово сопряженный строке * *( , )Z U I+ = . Одинаковая размерность его компонент достигается, как принято в радиофизике, нормировкой относительно волнового сопротивления линии передачи. В работах одного из авторов [3] была предложена геометрическая трактовка мощности сигнала Р как расстояния в двухмерном комплексном пространстве с псевдоэрмитовой метрикой

* * *1 0 11 1Re( ) ( , )1 02 2 2kl k l

UP U I g Z Z Z Z U I

I+ + ⎛ ⎞ ⎛ ⎞σ

= = = = ⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠

, (2)

в индефинитности которой легко убедиться с помощью плоского поворота, связывающего 1σ в 3σ в трехмерном пространстве матриц Паули

2 22 2 4 43 2 1 1 1 2 3 3 3 3

(1 ) (1 ), .2 2

i ii ii O O i e e O Oπ π

− σ σ+ +− σ + σσ = σ σ = σ σ = − σ σ = σ = σ = σ (3)

Подставляя (3) в (2), получаем каноническое представление индефинитной метрики

55

( ) 22 21* * 43 1 2 1 2

2

1 0 1 1, 0 1 2 2

iy U IP Y Y y y y y Y e Z

y U I

πσ+ +⎛ ⎞⎛ ⎞ ⎛ ⎞

= σ = = − = =⎜ ⎟⎜ ⎟ ⎜ ⎟− − +⎝ ⎠ ⎝ ⎠⎝ ⎠. (4)

Хорошо известно [8], что эта метрика сохраняется при линейных преобразованиях из четы-рехпараметрической псевдоунитарной группы (1.1)U , матрицы представления которой могут быть параметризованы, например, следующим образом

3 31 2 1 2 1 21

2 1

( ) ( )2 2 2 2* * , 1, .

i i i ii i ii i

c d e ch e shU e c d U e e e e e

d c e sh e ch

σ σϕ ϕ ϕ +ϕ ϕ −ϕσ ϑϕ ϕ ϕ− ϕ − ϕ

⎛ ⎞⎛ ⎞ ϑ ϑ= − = = =⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟ϑ ϑ⎝ ⎠ ⎝ ⎠

(5)

Разложение матриц подгруппы (1.1)SU на три сомножителя, соответствующие двум обыч-ным вращениям и одному гиперболическому, демонстрирует известный изоморфизм между

(1.1) / 1SU ± и связной компонентой аналога группы Лоренца в 2.1R – (2.1)SO . Используя (5) и (3), легко выписать матрицы (1.1)U , сохраняющие метрику (2). Из 3 3U U+σ = σ

следует 1 1U O OU O O+ + +σ = σ , откуда 1 1 1OU O OUO U U+ + + +σ = σ ≡ σ . Преобразованиям векторов

в пространстве сигналов [1–4] U U

UI I

′⎛ ⎞ ⎛ ⎞=⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠, где

3 32 1 2 1 2 21

( ) ( )4 2 2 4

1 2 1 2

1 2 1 2

cos cos (sin sin ),

(sin sin ) cos cos

i i i ii

i

U e e e e e ech sh i ch sh

ei ch sh ch sh

σ σπ π− σ ϕ +ϕ ϕ −ϕ σσ ϑϕ

ϕ

= =

ϕ ϑ− ϕ ϑ ϕ ϑ+ ϕ ϑ⎛ ⎞⎜ ⎟ϕ ϑ− ϕ ϑ ϕ ϑ+ ϕ ϑ⎝ ⎠

(6)

соответствует совокупность векторов, отвечающих одной и той же входной мощности. Концы этих векторов описывают поверхность в 2C [3]. Заметим, что порождающие ее группы (1.1)U и (1.1)SU сами не являются комплексными поверхностями в пространстве (2, )M C всех 2×2-матриц с комплексными элементами, т. е. 4C , поскольку задающие их функции не аналитиче-ские. Однако их можно рассматривать [8] как поверхности в вещественном пространстве 8R .

Несмотря на простоту параметризации (5) и удобство выделения соответствующих подгрупп, существенным ее недостатком является отсутствие закона композиции параметров группы, что не позволяет представить произведение двух матриц вида (5) в той же форме. Покажем, что век-торная параметризация рассматриваемых групп [6] позволяет преодолеть эту трудность, что от-крывает новые возможности для алгебраических расчетов физических характеристик последова-тельностей радиотехнических устройств, реализующих групповые преобразования. Для этого перейдем к последовательно алгебраической формулировке рассмотренных выше соотношений в рамках алгебры кватернионов над полем комплексных чисел – бикватернионов. Напомним [5], что любой элемент алгебры бикватернионов в векторном базисе может быть представлен в виде

0 0 0a aq q e q e q q= + = + , где 0 0a a ae e e e e= = , 20 1e = , ( ) [ ], ( ) ,aba b a b a b a be e e e e e e e= − + = δ

[ ] abca b ce e e= ε , , , 1,2,3a b c = , 0 , ae e – произвольные образующие алгебры кватернионов, а 0q и aq – элементы поля комплексных чисел. Отсюда следует закон умножения бикватернионов в векторной форме (обозначение векторной части кватерниона и вектора – черта снизу)

0 0 0 0( ) [ ]qp q p q p q p p q q p= − + + + .

Для бикватернионов определены операции комплексного * * *0q q q= − и кватернионного со-

пряжений 0q q q= − . Первое является автоморфизмом, а второе – антиавтоморфизмом алгебры

бикватернионов pq q p= ⋅ . Часто удобно использовать наличие в алгебре бикватернионов двух

55

( ) 22 21* * 43 1 2 1 2

2

1 0 1 1, 0 1 2 2

iy U IP Y Y y y y y Y e Z

y U I

πσ+ +⎛ ⎞⎛ ⎞ ⎛ ⎞

= σ = = − = =⎜ ⎟⎜ ⎟ ⎜ ⎟− − +⎝ ⎠ ⎝ ⎠⎝ ⎠. (4)

Хорошо известно [8], что эта метрика сохраняется при линейных преобразованиях из четы-рехпараметрической псевдоунитарной группы (1.1)U , матрицы представления которой могут быть параметризованы, например, следующим образом

3 31 2 1 2 1 21

2 1

( ) ( )2 2 2 2* * , 1, .

i i i ii i ii i

c d e ch e shU e c d U e e e e e

d c e sh e ch

σ σϕ ϕ ϕ +ϕ ϕ −ϕσ ϑϕ ϕ ϕ− ϕ − ϕ

⎛ ⎞⎛ ⎞ ϑ ϑ= − = = =⎜ ⎟⎜ ⎟⎜ ⎟ ⎜ ⎟ϑ ϑ⎝ ⎠ ⎝ ⎠

(5)

Разложение матриц подгруппы (1.1)SU на три сомножителя, соответствующие двум обыч-ным вращениям и одному гиперболическому, демонстрирует известный изоморфизм между

(1.1) / 1SU ± и связной компонентой аналога группы Лоренца в 2.1R – (2.1)SO . Используя (5) и (3), легко выписать матрицы (1.1)U , сохраняющие метрику (2). Из 3 3U U+σ = σ

следует 1 1U O OU O O+ + +σ = σ , откуда 1 1 1OU O OUO U U+ + + +σ = σ ≡ σ . Преобразованиям векторов

в пространстве сигналов [1–4] U U

UI I

′⎛ ⎞ ⎛ ⎞=⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠, где

3 32 1 2 1 2 21

( ) ( )4 2 2 4

1 2 1 2

1 2 1 2

cos cos (sin sin ),

(sin sin ) cos cos

i i i ii

i

U e e e e e ech sh i ch sh

ei ch sh ch sh

σ σπ π− σ ϕ +ϕ ϕ −ϕ σσ ϑϕ

ϕ

= =

ϕ ϑ− ϕ ϑ ϕ ϑ+ ϕ ϑ⎛ ⎞⎜ ⎟ϕ ϑ− ϕ ϑ ϕ ϑ+ ϕ ϑ⎝ ⎠

(6)

соответствует совокупность векторов, отвечающих одной и той же входной мощности. Концы этих векторов описывают поверхность в 2C [3]. Заметим, что порождающие ее группы (1.1)U и (1.1)SU сами не являются комплексными поверхностями в пространстве (2, )M C всех 2×2-матриц с комплексными элементами, т. е. 4C , поскольку задающие их функции не аналитиче-ские. Однако их можно рассматривать [8] как поверхности в вещественном пространстве 8R .

Несмотря на простоту параметризации (5) и удобство выделения соответствующих подгрупп, существенным ее недостатком является отсутствие закона композиции параметров группы, что не позволяет представить произведение двух матриц вида (5) в той же форме. Покажем, что век-торная параметризация рассматриваемых групп [6] позволяет преодолеть эту трудность, что от-крывает новые возможности для алгебраических расчетов физических характеристик последова-тельностей радиотехнических устройств, реализующих групповые преобразования. Для этого перейдем к последовательно алгебраической формулировке рассмотренных выше соотношений в рамках алгебры кватернионов над полем комплексных чисел – бикватернионов. Напомним [5], что любой элемент алгебры бикватернионов в векторном базисе может быть представлен в виде

0 0 0a aq q e q e q q= + = + , где 0 0a a ae e e e e= = , 20 1e = , ( ) [ ], ( ) ,aba b a b a b a be e e e e e e e= − + = δ

[ ] abca b ce e e= ε , , , 1,2,3a b c = , 0 , ae e – произвольные образующие алгебры кватернионов, а 0q и aq – элементы поля комплексных чисел. Отсюда следует закон умножения бикватернионов в векторной форме (обозначение векторной части кватерниона и вектора – черта снизу)

0 0 0 0( ) [ ]qp q p q p q p p q q p= − + + + .

Для бикватернионов определены операции комплексного * * *0q q q= − и кватернионного со-

пряжений 0q q q= − . Первое является автоморфизмом, а второе – антиавтоморфизмом алгебры

бикватернионов pq q p= ⋅ . Часто удобно использовать наличие в алгебре бикватернионов двух

56

идеалов, выделяемых проекторами или делителями нуля , 1,2аП a = , обладающими следующими свойствами: а b ab bП П П= δ , 1 2 1П П+ = , *

1(2) 2(1)П П= , 1(2) 2(1)П П= . Вместе с бикватернионами

aS (а = 1,2), такими что

2a b b a abS S S S+ = δ , 1 2 1 2( )S S i П П= − , 1(2) 2(1)a aП S S П= , *a aS S= − , a aS S= − ,

где , 1,2а b = , abδ – символ Кронекера, они образуют спинорный базис. Его связь с векторным базисом определяется, например, формулами

1(2) 0 3 31 1( ) (1 ), , 1,22 2 a aП e ie ie S ie a= ± = ± = = .

В спинорном базисе любой бикватернион представляется в виде 1 2 1 3( ) (q q q S П q= + + +

4 2)q S П , где под S, без ограничения общности, будем далее понимать 1S . Простейшие матрич-ные реализации этих базисов легко строятся с помощью матриц 2×2. Задавая, например, вектор-ный базис алгебры кватернионов с помощью матриц Паули 0, (1,1)a ae i e I diag= − σ = = , убежда-емся, что спинорному базису соответствуют четыре различные матрицы c единственным отлич-

ным от нуля единичным элементом. Тогда выражение (1) для столбцов 2 4i

Y e Zπ

σ= , на которые

действует матрица 2 24 4i i

M e Meπ π

σ − σ= , представляется в бикватернионах формулой

1 1 2 1 11 21 1 22 12 2 1 2 1 1( ) [( ) ( ) ]( ) .YП y y S П m m S П m m S П y y S П MYП′ ′ ′= + = + + + + = (7)

Здесь на проектор 1П в левой и правой части сокращать нельзя, так как он является делите-лем нуля. Бикватернионный аналог расстояния (4)

* *1 1 2 1 1 1 2 1 0Re[ ( ) ] [ ( ) ]P П Y П П YП П Y П П YП= − = − (8)

сохраняется при замене Y UY→ , где 1 2 1 2

1 2 1 2( ) ( )( ) ( )

2 2П П П Пi ii SU e e e e

− −ϕ +ϕ ϕ −ϕϕ ϑ= . Отметим, что би-

кватернионное представление конечных преобразований группы (1.1)SU рассматривалось ра-нее, как в векторном [9], так и в спинорном базисах [10]. Подставим теперь в (8) преобразование (7), тогда мощность на выходе есть

* * *1 1 2 1 1 12Re[ ( ) ] 2Re[ ]outP П Y M П П MYП П Y RYП= − ≡ . (9)

Очевидно, что бикватернион R удовлетворяет условию *R R= , т. е. имеет вид

* *0 0 0, , R R iR R R R R= + = = , (10)

диагональный в естественном для него спинорном базисе

2 2

0 0 0

2 20 01 2

1 1ˆ ˆ( ) (1 ) ( ) (1 )2 2

ˆ ˆ( ) ( ) , ( ) 1,R R

R R iR R R i R R R i R

R R П R R П RR

= + ≡ + + + − − =

+ + − =

(11)

где при его собственных векторах 1 2, R RП П стоят собственные значения 20R R±λ = ± .

Структура бикватерниона (10) сохраняется при произвольных преобразованиях из группы Лоренца – (3.1)SO или ее универсальной накрывающей – (2. )SL C [5]

* 1LR LRL LL= = . (12) С их помощью можно привести бикватернион R к одной из канонических форм [6], в зави-

симости от того больше, меньше или равен нулю инвариант 2 20R R− :

56

идеалов, выделяемых проекторами или делителями нуля , 1,2аП a = , обладающими следующими свойствами: а b ab bП П П= δ , 1 2 1П П+ = , *

1(2) 2(1)П П= , 1(2) 2(1)П П= . Вместе с бикватернионами

aS (а = 1,2), такими что

2a b b a abS S S S+ = δ , 1 2 1 2( )S S i П П= − , 1(2) 2(1)a aП S S П= , *a aS S= − , a aS S= − ,

где , 1,2а b = , abδ – символ Кронекера, они образуют спинорный базис. Его связь с векторным базисом определяется, например, формулами

1(2) 0 3 31 1( ) (1 ), , 1,22 2 a aП e ie ie S ie a= ± = ± = = .

В спинорном базисе любой бикватернион представляется в виде 1 2 1 3( ) (q q q S П q= + + +

4 2)q S П , где под S, без ограничения общности, будем далее понимать 1S . Простейшие матрич-ные реализации этих базисов легко строятся с помощью матриц 2×2. Задавая, например, вектор-ный базис алгебры кватернионов с помощью матриц Паули 0, (1,1)a ae i e I diag= − σ = = , убежда-емся, что спинорному базису соответствуют четыре различные матрицы c единственным отлич-

ным от нуля единичным элементом. Тогда выражение (1) для столбцов 2 4i

Y e Zπ

σ= , на которые

действует матрица 2 24 4i i

M e Meπ π

σ − σ= , представляется в бикватернионах формулой

1 1 2 1 11 21 1 22 12 2 1 2 1 1( ) [( ) ( ) ]( ) .YП y y S П m m S П m m S П y y S П MYП′ ′ ′= + = + + + + = (7)

Здесь на проектор 1П в левой и правой части сокращать нельзя, так как он является делите-лем нуля. Бикватернионный аналог расстояния (4)

* *1 1 2 1 1 1 2 1 0Re[ ( ) ] [ ( ) ]P П Y П П YП П Y П П YП= − = − (8)

сохраняется при замене Y UY→ , где 1 2 1 2

1 2 1 2( ) ( )( ) ( )

2 2П П П Пi ii SU e e e e

− −ϕ +ϕ ϕ −ϕϕ ϑ= . Отметим, что би-

кватернионное представление конечных преобразований группы (1.1)SU рассматривалось ра-нее, как в векторном [9], так и в спинорном базисах [10]. Подставим теперь в (8) преобразование (7), тогда мощность на выходе есть

* * *1 1 2 1 1 12Re[ ( ) ] 2Re[ ]outP П Y M П П MYП П Y RYП= − ≡ . (9)

Очевидно, что бикватернион R удовлетворяет условию *R R= , т. е. имеет вид

* *0 0 0, , R R iR R R R R= + = = , (10)

диагональный в естественном для него спинорном базисе

2 2

0 0 0

2 20 01 2

1 1ˆ ˆ( ) (1 ) ( ) (1 )2 2

ˆ ˆ( ) ( ) , ( ) 1,R R

R R iR R R i R R R i R

R R П R R П RR

= + ≡ + + + − − =

+ + − =

(11)

где при его собственных векторах 1 2, R RП П стоят собственные значения 20R R±λ = ± .

Структура бикватерниона (10) сохраняется при произвольных преобразованиях из группы Лоренца – (3.1)SO или ее универсальной накрывающей – (2. )SL C [5]

* 1LR LRL LL= = . (12) С их помощью можно привести бикватернион R к одной из канонических форм [6], в зави-

симости от того больше, меньше или равен нулю инвариант 2 20R R− :

57

2 20

LR R R+ = − либо 2 20

LR in R R− = − , либо 0 1(2)2L nПR R П= ± .

Для этого достаточно воспользоваться бикватернионным вариантом векторной параметриза-ции [5]

(1 ) 1L q q q= + + (13)

и модифицированной с учетом замены в 1.3 3.1R R→ формулой из монографии [6] для вектор-параметра плоского поворота, переводящего 4-вектор 0x x ix= + в 4-вектор 0y y iy= + при со-

хранении их длины – 2 2 2 20 0x x y y− = −

0 0 0 0 0 02 2

0 0 0 0 0 00 0

[ ] ( ) [ ] ( ) [ ] ( )2

( ) ( ) ( ) ( )( ) ( )

x y i x x y y x y i x x y y x y i x x y yq

x x y y x y y x y x x yx y x y

− − − − − −= = =

+ + + + + ++ + +. (14)

Для практических приложений удобно представить этот плоский поворот как произведение обычного и гиперболического вращений. При плоском повороте с * ˆ ˆ[ ] [1 ( )],q q c Rn Rn= ≡ = +

2 1n = бикватернион R (10) перейдет в 20

cR R i R n= + . Если 20R R= , то нужда

в дальнейшем преобразовании пропадает, поскольку 0 0 1(2)(1 ) 2c L nПR R R in R П→ = ± ± = ± . При

2 20 0R R− следует сделать гиперболический поворот, связывающий бикватернионы

2 2

2 2 2 2 2 20 0 0 22 2

0

1( ) 0, 1 1

LП

RR i R n R R in R R R iR

β+ ≡ − + → = − + β =

− β − β. (15)

Согласно (13), этому преобразованию соответствует мнимый вектор-параметр

2 2 1(1 1 )(1 1 ) .q in −= − − − β + − β (16)

Бикватернион 2 20

LR in R R− = − получается из 20

cR R i R n= + гиперболическим вращением

с вектор-параметром вида с (16), с точностью до замены 2β на 2−β . Поскольку при описанных выше преобразованиях из группы (2. )SL C выходная мощность

не изменяется

* * * * *2Re[ ] 2Re[ ] 2Re[ ]L L LoutP Y RY Y LLRL L Y Y R Y= = = , (17)

то они содержат в себе изометрические преобразования типа (5), определяемые малой группой или группой стабильности вектора R – подгруппой группы (2. ).SL C Кроме описанной выше группы (1.1)SU , соответствующей 2 2

0R R− меньше нуля, имеем при 2 20R R− больше нуля груп-

пу (3)SO , а для изотропного вектора – (2)E . Полная группа изометрии выходного сигнала представляет прямое произведение одной из указанных групп на (1)U .

Экспериментальная часть. Построенное в алгебраическом подходе теоретико-групповое описание матриц передачи (1) и их симметрийных свойств открывает возможность рассмотрения с единых позиций различных частных случаев изометрических преобразований [3] в контексте приложений в радиотехнике. Рассмотрим, например, нахождение коэффициента преобразования мощности

*1 1

*1 1 2 1

Re[ ]Re[ ( ) ]p

П Y RYПKП Y П П YП

=−

.

57

2 20

LR R R+ = − либо 2 20

LR in R R− = − , либо 0 1(2)2L nПR R П= ± .

Для этого достаточно воспользоваться бикватернионным вариантом векторной параметриза-ции [5]

(1 ) 1L q q q= + + (13)

и модифицированной с учетом замены в 1.3 3.1R R→ формулой из монографии [6] для вектор-параметра плоского поворота, переводящего 4-вектор 0x x ix= + в 4-вектор 0y y iy= + при со-

хранении их длины – 2 2 2 20 0x x y y− = −

0 0 0 0 0 02 2

0 0 0 0 0 00 0

[ ] ( ) [ ] ( ) [ ] ( )2

( ) ( ) ( ) ( )( ) ( )

x y i x x y y x y i x x y y x y i x x y yq

x x y y x y y x y x x yx y x y

− − − − − −= = =

+ + + + + ++ + +. (14)

Для практических приложений удобно представить этот плоский поворот как произведение обычного и гиперболического вращений. При плоском повороте с * ˆ ˆ[ ] [1 ( )],q q c Rn Rn= ≡ = +

2 1n = бикватернион R (10) перейдет в 20

cR R i R n= + . Если 20R R= , то нужда

в дальнейшем преобразовании пропадает, поскольку 0 0 1(2)(1 ) 2c L nПR R R in R П→ = ± ± = ± . При

2 20 0R R− следует сделать гиперболический поворот, связывающий бикватернионы

2 2

2 2 2 2 2 20 0 0 22 2

0

1( ) 0, 1 1

LП

RR i R n R R in R R R iR

β+ ≡ − + → = − + β =

− β − β. (15)

Согласно (13), этому преобразованию соответствует мнимый вектор-параметр

2 2 1(1 1 )(1 1 ) .q in −= − − − β + − β (16)

Бикватернион 2 20

LR in R R− = − получается из 20

cR R i R n= + гиперболическим вращением

с вектор-параметром вида с (16), с точностью до замены 2β на 2−β . Поскольку при описанных выше преобразованиях из группы (2. )SL C выходная мощность

не изменяется

* * * * *2Re[ ] 2Re[ ] 2Re[ ]L L LoutP Y RY Y LLRL L Y Y R Y= = = , (17)

то они содержат в себе изометрические преобразования типа (5), определяемые малой группой или группой стабильности вектора R – подгруппой группы (2. ).SL C Кроме описанной выше группы (1.1)SU , соответствующей 2 2

0R R− меньше нуля, имеем при 2 20R R− больше нуля груп-

пу (3)SO , а для изотропного вектора – (2)E . Полная группа изометрии выходного сигнала представляет прямое произведение одной из указанных групп на (1)U .

Экспериментальная часть. Построенное в алгебраическом подходе теоретико-групповое описание матриц передачи (1) и их симметрийных свойств открывает возможность рассмотрения с единых позиций различных частных случаев изометрических преобразований [3] в контексте приложений в радиотехнике. Рассмотрим, например, нахождение коэффициента преобразования мощности

*1 1

*1 1 2 1

Re[ ]Re[ ( ) ]p

П Y RYПKП Y П П YП

=−

.

58

Отсюда следует, что

* *1 1 2 1 1 1Re[ ( ( )) ] Re[ ] 0pП Y R K П П YП П Y R YП′− − = = , (18)

где 0 0 1 2 3[ ( ) ]pR R iR R i Xe Ye Z K e′ ′= + = + + + − . Ясно, что равенство (18) возможно только когда

бикватернион R′ изотропен – 0R R′ ′ = . Откуда немедленно следует

2 2 20

optpK Z R X Y= ± − − . (19)

Под знаком корня стоит инвариант группы (2.1)SO , локально изоморфной рассмотренной выше группе изометрических преобразований – малой группе векторного бикватерниона 1 2( )П П− , действующей на векторы в ортогональном дополнении к третьей оси. Очевидно, что в правой части (19) можно делать циклическую перестановку координат трехмерной части бикватерниона R . Тем самым формула (19) охватывает все случаи, которые рассматривались ранее как незави-симые [1–4]. Естественно, что эта симметрия имеет место и для состояний, согласованных на входе с усиливающим устройством, для которых достигается оптимальный коэффициент усиления

1 3 1opt opt opt

in p inRY П ie K Y П= или 0opt optinR Y′ = . (20)

Откуда следует, что

1.2 1.2 1.21 1 3 1[ ]opt opt

inY П R YП R i R R e YП′= = ± , где 1.20 1 2( )R R i Xe Ye= + + . (21)

Состояния (21) есть не что иное как собственные векторы эрмитовой матрицы, iR′ , соответ- ствующие собственным значениям 0R± , связанным с коэффициентом усиления формулой (19). Указанная матрица легко диагонализируется с помощью описанных выше изометрических пре-образований, что эквивалентно приведению квадратичной формы к каноническому виду или по-вороту соответствующей поверхности в пространстве сигналов к главным осям [1–4].

Заметим также, что уравнения (20) при любом коэффициенте усиления по мощности сигнала ковариантны относительно преобразований EU малой группы (2)E изотропного вектора

0 ˆ ˆ ˆ(1 ), ( ) 1R R iR R iR R R′ ′ ′ ′ ′ ′= + = ± =∓ , таких что *E EU R U R′ ′= . Эти преобразования определяют

совокупность эквивалентных векторов в пространстве состояний сигналов *1 1E EY П U YП= для

данного коэффициента усиления. Они распадаются на два класса 0R R′= ± , и, вообще говоря, не являются изометрическими, т. е. изменяют входную мощность. Как изометрические преобра-зования (1.1)SU , так и преобразования (2)E допускают параметризацию Федорова с бикватер-нионным аналогом вектор-параметра

0ˆ ˆ ˆ(1 )( ) [ ], /q a R a R i R a R R′ ′ ′ ′= η + − η − η =

и следующим законом композиции для a [9]

2 20

2 2 2 20 0

ˆ ˆ[ ] ( 1)( [ ])ˆ ˆ1 ( )( ) ( 1)( )( )

a a a a R R R a a RaR R a a R R R a R a

′ ′ ′ ′ ′ ′+ + + − −′′ =′ ′ ′ ′ ′ ′− − + − −

.

При этом, например, матрица (5) в векторной параметризации имеет вид

3 2 12 2* * 2 2 2 2 1 33 1 2

11, 1, .11

c d ia a iaU c d U

a ia iad c a a a

⎛ ⎞ − −⎛ ⎞= − = =⎜ ⎟ ⎜ ⎟⎜ ⎟ + +⎝ ⎠+ − −⎝ ⎠

Преобразованиям описанной выше группы (2)E соответствует треугольная матрица

32 2 1 33

1 01 ,2( ) 11

Eia

Ua ia iaa

−⎛ ⎞= ⎜ ⎟− +⎝ ⎠+

58

Отсюда следует, что

* *1 1 2 1 1 1Re[ ( ( )) ] Re[ ] 0pП Y R K П П YП П Y R YП′− − = = , (18)

где 0 0 1 2 3[ ( ) ]pR R iR R i Xe Ye Z K e′ ′= + = + + + − . Ясно, что равенство (18) возможно только когда

бикватернион R′ изотропен – 0R R′ ′ = . Откуда немедленно следует

2 2 20

optpK Z R X Y= ± − − . (19)

Под знаком корня стоит инвариант группы (2.1)SO , локально изоморфной рассмотренной выше группе изометрических преобразований – малой группе векторного бикватерниона 1 2( )П П− , действующей на векторы в ортогональном дополнении к третьей оси. Очевидно, что в правой части (19) можно делать циклическую перестановку координат трехмерной части бикватерниона R . Тем самым формула (19) охватывает все случаи, которые рассматривались ранее как незави-симые [1–4]. Естественно, что эта симметрия имеет место и для состояний, согласованных на входе с усиливающим устройством, для которых достигается оптимальный коэффициент усиления

1 3 1opt opt opt

in p inRY П ie K Y П= или 0opt optinR Y′ = . (20)

Откуда следует, что

1.2 1.2 1.21 1 3 1[ ]opt opt

inY П R YП R i R R e YП′= = ± , где 1.20 1 2( )R R i Xe Ye= + + . (21)

Состояния (21) есть не что иное как собственные векторы эрмитовой матрицы, iR′ , соответ- ствующие собственным значениям 0R± , связанным с коэффициентом усиления формулой (19). Указанная матрица легко диагонализируется с помощью описанных выше изометрических пре-образований, что эквивалентно приведению квадратичной формы к каноническому виду или по-вороту соответствующей поверхности в пространстве сигналов к главным осям [1–4].

Заметим также, что уравнения (20) при любом коэффициенте усиления по мощности сигнала ковариантны относительно преобразований EU малой группы (2)E изотропного вектора

0 ˆ ˆ ˆ(1 ), ( ) 1R R iR R iR R R′ ′ ′ ′ ′ ′= + = ± =∓ , таких что *E EU R U R′ ′= . Эти преобразования определяют

совокупность эквивалентных векторов в пространстве состояний сигналов *1 1E EY П U YП= для

данного коэффициента усиления. Они распадаются на два класса 0R R′= ± , и, вообще говоря, не являются изометрическими, т. е. изменяют входную мощность. Как изометрические преобра-зования (1.1)SU , так и преобразования (2)E допускают параметризацию Федорова с бикватер-нионным аналогом вектор-параметра

0ˆ ˆ ˆ(1 )( ) [ ], /q a R a R i R a R R′ ′ ′ ′= η + − η − η =

и следующим законом композиции для a [9]

2 20

2 2 2 20 0

ˆ ˆ[ ] ( 1)( [ ])ˆ ˆ1 ( )( ) ( 1)( )( )

a a a a R R R a a RaR R a a R R R a R a

′ ′ ′ ′ ′ ′+ + + − −′′ =′ ′ ′ ′ ′ ′− − + − −

.

При этом, например, матрица (5) в векторной параметризации имеет вид

3 2 12 2* * 2 2 2 2 1 33 1 2

11, 1, .11

c d ia a iaU c d U

a ia iad c a a a

⎛ ⎞ − −⎛ ⎞= − = =⎜ ⎟ ⎜ ⎟⎜ ⎟ + +⎝ ⎠+ − −⎝ ⎠

Преобразованиям описанной выше группы (2)E соответствует треугольная матрица

32 2 1 33

1 01 ,2( ) 11

Eia

Ua ia iaa

−⎛ ⎞= ⎜ ⎟− +⎝ ⎠+

59

где в качестве третьей оси выбрано направление вектора R̂′ . Реализация описанных выше преобразований, с учетом ранее полученных результатов [1–4],

при расчете конкретных радиотехнических схем и устройств, будет рассмотрена отдельно, как прикладное развитие данной работы.

Заключение. Развитые в данной работе методы могут быть обобщены на четырехполюсник произвольного вида с матрицей передачи, принадлежащей группе (4. )GL R . При этом группа, сохраняющая метрику (1,1, 1, 1)diag − − – (2.2)O , имеет на три параметра больше нежели рас- смотренная выше изометрическая группа (1.1)U , которой соответствует ее образ, равный пере-сечению группы (2.2)O с образом (2. )GL C в (4. )GL R [8]. Соответствующий алгебраический формализм удобно развивать в рамках алгебры Клиффорда с четырьмя образующими, которая содержит две коммутирующие друг с другом алгебры кватернионов или в матричном представ-лении, порождаемом известными в релятивистской физике матрицами Дирака. По-прежнему имеется возможность использования формализма плоских поворотов, построенных для группы

(4. )SO C А. А. Богушем [11]. Авторы признательны профессору доктору технических наук Ю. П. Воропаеву и доктору фи-

зико-математических наук Ю. А. Курочкину за высказанные замечания.


1. О н и щ у к А. Г. // Радиотехника и электроника. 1978. Т. 23, № 5. С. 1015–1021. 2. О н и щ у к А. Г. // Вести АН БССР. Сер. физ.-техн. наук. 1980. № 1. С. 119–125. 3. О н и щ у к А. Г., З а б е н ь к о в И. И. Согласование радиотехнических устройств. Минск, 1997. Ч. 3. 4. О н и щ у к А. Г. // Физика волновых процессов и радиотехнические системы. 2008. Т. 11, № 3. С. 157–163. 5. Б е р е з и н А. В., К у р о ч к и н Ю. А., Т о л к а ч е в Е. А. Кватернионы в релятивистской физике. Минск, 1989. 6. Ф е д о р о в Ф. И. Группа Лоренца. М., 1979. 7. Ф е д о р о в Ф. И. Теория гиротропии. Минск, 1976. 8. Д у б р о в и н Б. А., Н о в и к о в С. П., Ф о м е н к о А. Т. Современная геометрия. М., 1979. 9. А л е й н и к о в Д. В., Т о л к а ч е в Е. А. // Докл. НАН Беларуси. 2003. Т. 47, № 2. С. 70–73.

10. П р и в а л ь ч у к А. Н., Т о л к а ч е в Е. А. // Докл. НАН Беларуси. 2007. Т. 51, № 1. С. 46–49. 11. Б о г у ш А. А. О векторной параметризации комплексной группы Лоренца SO(4.C). Препринт ИФ АН БССР.

1972. С. 1–48.

ONISCHUK A. G., PEGASIN D. V., TOLKACHEV E. A.

[email protected]

STABILITY GROUPS IN THE QUADRIPOLES THEORY

Summary

It is shown that the classes of the quadripole power converter equivalence are determined by small groups of the 3.1R vectors. The projective operator realizing the optimal power conversion is constructed. In the framework of the biquaternion analogue of the Lorentz group vector parameterization the algebraic formalism is derived allowing the calculation of physical parameters of sequences of different converters in explicit form.

59

где в качестве третьей оси выбрано направление вектора R̂′ . Реализация описанных выше преобразований, с учетом ранее полученных результатов [1–4],

при расчете конкретных радиотехнических схем и устройств, будет рассмотрена отдельно, как прикладное развитие данной работы.

Заключение. Развитые в данной работе методы могут быть обобщены на четырехполюсник произвольного вида с матрицей передачи, принадлежащей группе (4. )GL R . При этом группа, сохраняющая метрику (1,1, 1, 1)diag − − – (2.2)O , имеет на три параметра больше нежели рас- смотренная выше изометрическая группа (1.1)U , которой соответствует ее образ, равный пере-сечению группы (2.2)O с образом (2. )GL C в (4. )GL R [8]. Соответствующий алгебраический формализм удобно развивать в рамках алгебры Клиффорда с четырьмя образующими, которая содержит две коммутирующие друг с другом алгебры кватернионов или в матричном представ-лении, порождаемом известными в релятивистской физике матрицами Дирака. По-прежнему имеется возможность использования формализма плоских поворотов, построенных для группы

(4. )SO C А. А. Богушем [11]. Авторы признательны профессору доктору технических наук Ю. П. Воропаеву и доктору фи-

зико-математических наук Ю. А. Курочкину за высказанные замечания.


1. О н и щ у к А. Г. // Радиотехника и электроника. 1978. Т. 23, № 5. С. 1015–1021. 2. О н и щ у к А. Г. // Вести АН БССР. Сер. физ.-техн. наук. 1980. № 1. С. 119–125. 3. О н и щ у к А. Г., З а б е н ь к о в И. И. Согласование радиотехнических устройств. Минск, 1997. Ч. 3. 4. О н и щ у к А. Г. // Физика волновых процессов и радиотехнические системы. 2008. Т. 11, № 3. С. 157–163. 5. Б е р е з и н А. В., К у р о ч к и н Ю. А., Т о л к а ч е в Е. А. Кватернионы в релятивистской физике. Минск, 1989. 6. Ф е д о р о в Ф. И. Группа Лоренца. М., 1979. 7. Ф е д о р о в Ф. И. Теория гиротропии. Минск, 1976. 8. Д у б р о в и н Б. А., Н о в и к о в С. П., Ф о м е н к о А. Т. Современная геометрия. М., 1979. 9. А л е й н и к о в Д. В., Т о л к а ч е в Е. А. // Докл. НАН Беларуси. 2003. Т. 47, № 2. С. 70–73.

10. П р и в а л ь ч у к А. Н., Т о л к а ч е в Е. А. // Докл. НАН Беларуси. 2007. Т. 51, № 1. С. 46–49. 11. Б о г у ш А. А. О векторной параметризации комплексной группы Лоренца SO(4.C). Препринт ИФ АН БССР.

1972. С. 1–48.

ONISCHUK A. G., PEGASIN D. V., TOLKACHEV E. A.

[email protected]

STABILITY GROUPS IN THE QUADRIPOLES THEORY

Summary

It is shown that the classes of the quadripole power converter equivalence are determined by small groups of the 3.1R vectors. The projective operator realizing the optimal power conversion is constructed. In the framework of the biquaternion analogue of the Lorentz group vector parameterization the algebraic formalism is derived allowing the calculation of physical parameters of sequences of different converters in explicit form.

60



УДК 539.12

О. Д. СКОРОМНИК, И. Д. ФЕРАНЧУК

РЕГУЛЯРИЗАЦИЯ ФОРМУЛЫ МОТТА ПРИ РАССЕЯНИИ РЕЛЯТИВИСТСКИХ ЭЛЕКТРОНОВ В КУЛОНОВСКОМ ПОЛЕ



Введение. Задача о рассеянии частицы в кулоновском поле рассматривается практически во всех учебниках по квантовой теории, поскольку допускает точное решение как в нерелятивист-ском [1], так и релятивистском [2] случаях. Хорошо известно также, что использование этих ре-шений для вычисления дифференциального сечения в рамках стационарной теории рассеяния приводит к выражениям, имеющим неинтегрируемую сингулярность при малых углах и, как следствие, к неограниченной величине потока рассеянных частиц. Это обстоятельство обуслов-лено дальнодействующим характером кулоновского поля и находится в очевидном противоре-чии с тем, что точная волновая функция частицы, соответствующая состояниям непрерывного спектра как для уравнения Шредингера, так и уравнения Дирака в таком поле, является конеч-ной во всем пространстве.

Указанной проблеме не уделяется достаточного внимания, так как принято считать, что она представляет только академический интерес. Это обусловлено следующими факторами: во-пер- вых, реальные потенциалы взаимодействия заряженных частиц экранируются и являются коротко- действующими и, во-вторых, область малых углов, как правило, не рассматривается в экспери-ментах, поскольку поток рассеянных частиц в этом случае невозможно отделить от падающих частиц [1]. Однако сингулярность при малых углах проявляется и при вычислении полного сече- ния рассеяния, что приводит к необходимости регуляризации сечения рассеяния в кулоновском поле и в прикладных задачах, связанных со взаимодействием носителей заряда с примесными центрами в полупроводниках [3]. Еще более актуальной эта проблема может стать в связи с опи-санием современных экспериментов со столкновениями релятивистских заряженных частиц во встречных пучках.

В работе [4] было показано, что сингулярность сечения рассеяния на дальнодействующих потенциалах обусловлена некорректным использованием при малых углах асимптотического выражения для волновой функции. В рамках нерелятивистской теории и борновского прибли-жения по потенциалу было получено выражение для амплитуды рассеяния без сингулярности при малых углах. Дальнейшее развитие этого подхода было сделано в работе [5] на основе точ-ного решения уравнения Шредингера с кулоновским потенциалом и проведена регуляризация резерфордовского сечения, которая позволяла вычислить все наблюдаемые характеристики рас-сеяния в конечной виде.

Цель работы – исследование аналогичной проблемы при рассеянии релятивистского электрона кулоновским полем на основе решения уравнения Дирака и регуляризация формулы Мотта [6]. Дополнительная особенность этой задачи связана с тем, что изменение поляризации электронов может позволить отделять потоки рассеянных и падающих частиц при экспериментальном ис-следовании рассмотренных в работе эффектов малоуглового рассеяния в кулоновском поле.

Анализ борновского приближения. Напомним основные соотношения, определяющие бор-новское приближение в стационарной задаче рассеяния релятивистского электрона кулоновским полем. Как известно [2], оно основано на решении неоднородного уравнения Дирака

60



УДК 539.12

О. Д. СКОРОМНИК, И. Д. ФЕРАНЧУК

РЕГУЛЯРИЗАЦИЯ ФОРМУЛЫ МОТТА ПРИ РАССЕЯНИИ РЕЛЯТИВИСТСКИХ ЭЛЕКТРОНОВ В КУЛОНОВСКОМ ПОЛЕ



Введение. Задача о рассеянии частицы в кулоновском поле рассматривается практически во всех учебниках по квантовой теории, поскольку допускает точное решение как в нерелятивист-ском [1], так и релятивистском [2] случаях. Хорошо известно также, что использование этих ре-шений для вычисления дифференциального сечения в рамках стационарной теории рассеяния приводит к выражениям, имеющим неинтегрируемую сингулярность при малых углах и, как следствие, к неограниченной величине потока рассеянных частиц. Это обстоятельство обуслов-лено дальнодействующим характером кулоновского поля и находится в очевидном противоре-чии с тем, что точная волновая функция частицы, соответствующая состояниям непрерывного спектра как для уравнения Шредингера, так и уравнения Дирака в таком поле, является конеч-ной во всем пространстве.

Указанной проблеме не уделяется достаточного внимания, так как принято считать, что она представляет только академический интерес. Это обусловлено следующими факторами: во-пер- вых, реальные потенциалы взаимодействия заряженных частиц экранируются и являются коротко- действующими и, во-вторых, область малых углов, как правило, не рассматривается в экспери-ментах, поскольку поток рассеянных частиц в этом случае невозможно отделить от падающих частиц [1]. Однако сингулярность при малых углах проявляется и при вычислении полного сече- ния рассеяния, что приводит к необходимости регуляризации сечения рассеяния в кулоновском поле и в прикладных задачах, связанных со взаимодействием носителей заряда с примесными центрами в полупроводниках [3]. Еще более актуальной эта проблема может стать в связи с опи-санием современных экспериментов со столкновениями релятивистских заряженных частиц во встречных пучках.

В работе [4] было показано, что сингулярность сечения рассеяния на дальнодействующих потенциалах обусловлена некорректным использованием при малых углах асимптотического выражения для волновой функции. В рамках нерелятивистской теории и борновского прибли-жения по потенциалу было получено выражение для амплитуды рассеяния без сингулярности при малых углах. Дальнейшее развитие этого подхода было сделано в работе [5] на основе точ-ного решения уравнения Шредингера с кулоновским потенциалом и проведена регуляризация резерфордовского сечения, которая позволяла вычислить все наблюдаемые характеристики рас-сеяния в конечной виде.

Цель работы – исследование аналогичной проблемы при рассеянии релятивистского электрона кулоновским полем на основе решения уравнения Дирака и регуляризация формулы Мотта [6]. Дополнительная особенность этой задачи связана с тем, что изменение поляризации электронов может позволить отделять потоки рассеянных и падающих частиц при экспериментальном ис-следовании рассмотренных в работе эффектов малоуглового рассеяния в кулоновском поле.

Анализ борновского приближения. Напомним основные соотношения, определяющие бор-новское приближение в стационарной задаче рассеяния релятивистского электрона кулоновским полем. Как известно [2], оно основано на решении неоднородного уравнения Дирака

61

4 4( ) ( ) ( , ) ,iZm i u er

⋅αγ ⋅∇ − γ ε + ψ = − γ ε p rr p (1)

где 4,γ γ – матрицы Дирака; m и ε – масса и энергия электрона соответственно, p – его импульс; ( , )u εp – постоянный биспинор, соответствующий свободному движению частицы, нормирован-

ный условием 2uu m= ; Z – заряд рассеивающего центра; 2 / 4 1 /137; 1e cα = π = = = . Общее решение этого уравнения определяется выражением

4 4( ) ( , ) ( ) ( , ) ( );4

i Zu e i m u Iαψ = ε + γ ⋅∇ − γ ε − γ ε

πprr p p r

| | 1( ) .

| |

ipieI e d

r

′−′ ′=

′ ′−∫

r rprr r

r r (2)

Если при вычислении ( )I r использовать асимптотическое условие

,r r′ (3)

то полученный результат приводит к хорошо известной формуле Мотта для дифференциального сечения рассеяния

2 2 24

2

1( ) (1 sin ) ,2 2 sin

d Z vd pv θ

σ α θ= −

Ω (4)

которое имеет неинтегрируемую особенность при нулевом угле рассеяния θ; /v p= ε . В рамках этого приближения спиновые эффекты оказываются несущественными и не приводят к асим-метрии рассеяния [2].

Следует, однако, обратить внимание на принципиальное математическое противоречие, воз-никающее при использовании асимптотики (3) для вычисления интеграла ( )I r . В силу медлен-ного убывания кулоновского потенциала область изменения переменной интегрирования r′ не ограничена и условие (3) не выполняется. В то же время функцию ( )I r можно точно свести к следующему одномерному интегралу

( )

10( ) .

2

i i pr uie eI dup u

⋅ − ⋅= −

π ∫p r p r

r (5)

Действительно, заменяя в (2) выражение для функции Грина через фурье-образ и интегрируя по ,′r получаем

| | ( )

3 2 2

( )

3 2 2 2 2 2 2

1 1( )| | (2 )

1 1 ,(2 ) 2 ( )( )

ip i ii

i i i

e e eI e d d dr rp q

e e ed d drp q p q

′ ′ ′− − ⋅′

′⋅ − ⋅

′ ′= = =′ ′ ′− π −

′ =′π − π − −

∫ ∫∫

∫ ∫ ∫

r r q r r p rpr

q r p q r q r

r r r qr r

r q qp q

(6)

воспользовавшись параметризацией Фейнмана 2110 ( (1 ))

duu uαβ α +β −

= ∫ выражение (6) преобразуется

к виду

1 10 02 2 2 2 2 2 2 2 2 2

1 (1 )02 2 2 2 2

1 1( )2 (( ) ( ) ) 2 (( (1 )) )

1 .2 ( )

i i

ii u

e eI du d du dq p u u p u

edue dQ p u

⋅ ⋅

⋅− ⋅

= − = − =π − + − π − − −

−π −

∫ ∫∫ ∫

∫∫

q r q r

Q rp r

r q qp q q p

Q (7)

Интеграл (7) вычисляется с помощью теории вычетов, в результате получаем (5).

61

4 4( ) ( ) ( , ) ,iZm i u er

⋅αγ ⋅∇ − γ ε + ψ = − γ ε p rr p (1)

где 4,γ γ – матрицы Дирака; m и ε – масса и энергия электрона соответственно, p – его импульс; ( , )u εp – постоянный биспинор, соответствующий свободному движению частицы, нормирован-

ный условием 2uu m= ; Z – заряд рассеивающего центра; 2 / 4 1 /137; 1e cα = π = = = . Общее решение этого уравнения определяется выражением

4 4( ) ( , ) ( ) ( , ) ( );4

i Zu e i m u Iαψ = ε + γ ⋅∇ − γ ε − γ ε

πprr p p r

| | 1( ) .

| |

ipieI e d

r

′−′ ′=

′ ′−∫

r rprr r

r r (2)

Если при вычислении ( )I r использовать асимптотическое условие

,r r′ (3)

то полученный результат приводит к хорошо известной формуле Мотта для дифференциального сечения рассеяния

2 2 24

2

1( ) (1 sin ) ,2 2 sin

d Z vd pv θ

σ α θ= −

Ω (4)

которое имеет неинтегрируемую особенность при нулевом угле рассеяния θ; /v p= ε . В рамках этого приближения спиновые эффекты оказываются несущественными и не приводят к асим-метрии рассеяния [2].

Следует, однако, обратить внимание на принципиальное математическое противоречие, воз-никающее при использовании асимптотики (3) для вычисления интеграла ( )I r . В силу медлен-ного убывания кулоновского потенциала область изменения переменной интегрирования r′ не ограничена и условие (3) не выполняется. В то же время функцию ( )I r можно точно свести к следующему одномерному интегралу

( )

10( ) .

2

i i pr uie eI dup u

⋅ − ⋅= −

π ∫p r p r

r (5)

Действительно, заменяя в (2) выражение для функции Грина через фурье-образ и интегрируя по ,′r получаем

| | ( )

3 2 2

( )

3 2 2 2 2 2 2

1 1( )| | (2 )

1 1 ,(2 ) 2 ( )( )

ip i ii

i i i

e e eI e d d dr rp q

e e ed d drp q p q

′ ′ ′− − ⋅′

′⋅ − ⋅

′ ′= = =′ ′ ′− π −

′ =′π − π − −

∫ ∫∫

∫ ∫ ∫

r r q r r p rpr

q r p q r q r

r r r qr r

r q qp q

(6)

воспользовавшись параметризацией Фейнмана 2110 ( (1 ))

duu uαβ α +β −

= ∫ выражение (6) преобразуется

к виду

1 10 02 2 2 2 2 2 2 2 2 2

1 (1 )02 2 2 2 2

1 1( )2 (( ) ( ) ) 2 (( (1 )) )

1 .2 ( )

i i

ii u

e eI du d du dq p u u p u

edue dQ p u

⋅ ⋅

⋅− ⋅

= − = − =π − + − π − − −

−π −

∫ ∫∫ ∫

∫∫

q r q r

Q rp r

r q qp q q p

Q (7)

Интеграл (7) вычисляется с помощью теории вычетов, в результате получаем (5).

62

Как видим, получившийся интеграл расходится логарифмически и, как следствие, выражение (2) нельзя непосредственно использовать без дополнительных физических соображений для ре-гуляризации функции (5), что может изменить и выражение (4) для дифференциального сечения рассеяния. Очевидно, что аналогичная проблема возникает и в нерелятивистской задаче рассея-ния на кулоновском потенциале, которая была рассмотрена в работах [4; 5]. При этом в [4] показано, что сходящийся результат для борновского приближения может быть получен при ис-пользовании временной теории столкновений, а в работе [5] регуляризация резерфордовского сечения рассеяния была выполнена на основе точного решения уравнения Шредингера для ку-лоновского потенциала. В обоих подходах показано, что сингулярность дифференциального сече-ния обусловлена тем, что в области углов

02pr

θ ≤ θ = (8)

фазы падающей плоской и рассеянной сферической волн близки и необходимо учитывать их ин-терференцию. Следует отметить, что подобная интерференция существует и для потенциалов с конечным радиусом действия. Однако в этом случае дифференциальное сечение рассеяния оста-ется конечным при малых углах, так что потоком частиц, рассеянных в этом угловом диапазоне

0int 0

( ) 2 (0)2 sin 0,d dj dd pr d

θ σ θ π σ≈ π θ θ ≈ →

Ω Ω∫ (9)

можно пренебречь. В то же время при рассеянии в кулоновском поле аналогичная величина

0min

2int

( )2 sin 2 ( ) ( )C d Zj d prd pv

θθ

σ θ α≈ π θ θ ≈ π

Ω∫ (10)

растет с увеличением расстояния от рассеивателя и, как следствие, вклад такого потока необхо-димо учитывать при анализе результатов рассеяния.

Приближение Фарри–Зоммерфельда–Мауэ. Как известно [2], точное аналитическое реше-ние уравнения Дирака с кулоновским потенциалом для состояний непрерывного спектра можно получить только в виде разложения по парциальным волнам, которое требует суммирования ря-дов при вычислении дифференциального сечения рассеяния. Однако в соответствии с результа-тами работ [4; 5] учет неасимптотического характера волновой функции необходим только в об-ласти малых углов (8), когда существует достаточно простое аналитическое представление для этих решений – так называемое приближение Фарри–Зоммерфельда–Мауэ (ФЗМ)

( ) 1 [ ,1, (1 cos )] ( ),2

i iC e F i ipr u p± ± μα∇⎛ ⎞Ψ = − ± ξ − θ⎜ ⎟ε⎝ ⎠prr (11)

где знак «+» соответствует расходящейся, а знак «–» сходящейся волнам, 2(1 )C i eπξ

± = Γ ξ∓ , Z

pαεξ = , а постоянные биспинорные амплитуды задаются в виде

,( )

mv

m v

⎛ ⎞ε +⎜ ⎟⎜ ⎟ε − ⋅⎝ ⎠σ ν

(12)

причем 1v v∗ = , а p

=p

ν .

Как известно, поток частиц, движение которых подчиняется уравнению Дирака, вычисляется следующим образом: †

2 1 1 2 ,∗ ∗= Ψ Ψ = Φ Φ +Φ Φj α σ σ (13)

где 1

2.

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

ΦΨ =

Φ

62

Как видим, получившийся интеграл расходится логарифмически и, как следствие, выражение (2) нельзя непосредственно использовать без дополнительных физических соображений для ре-гуляризации функции (5), что может изменить и выражение (4) для дифференциального сечения рассеяния. Очевидно, что аналогичная проблема возникает и в нерелятивистской задаче рассея-ния на кулоновском потенциале, которая была рассмотрена в работах [4; 5]. При этом в [4] показано, что сходящийся результат для борновского приближения может быть получен при ис-пользовании временной теории столкновений, а в работе [5] регуляризация резерфордовского сечения рассеяния была выполнена на основе точного решения уравнения Шредингера для ку-лоновского потенциала. В обоих подходах показано, что сингулярность дифференциального сече-ния обусловлена тем, что в области углов

02pr

θ ≤ θ = (8)

фазы падающей плоской и рассеянной сферической волн близки и необходимо учитывать их ин-терференцию. Следует отметить, что подобная интерференция существует и для потенциалов с конечным радиусом действия. Однако в этом случае дифференциальное сечение рассеяния оста-ется конечным при малых углах, так что потоком частиц, рассеянных в этом угловом диапазоне

0int 0

( ) 2 (0)2 sin 0,d dj dd pr d

θ σ θ π σ≈ π θ θ ≈ →

Ω Ω∫ (9)

можно пренебречь. В то же время при рассеянии в кулоновском поле аналогичная величина

0min

2int

( )2 sin 2 ( ) ( )C d Zj d prd pv

θθ

σ θ α≈ π θ θ ≈ π

Ω∫ (10)

растет с увеличением расстояния от рассеивателя и, как следствие, вклад такого потока необхо-димо учитывать при анализе результатов рассеяния.

Приближение Фарри–Зоммерфельда–Мауэ. Как известно [2], точное аналитическое реше-ние уравнения Дирака с кулоновским потенциалом для состояний непрерывного спектра можно получить только в виде разложения по парциальным волнам, которое требует суммирования ря-дов при вычислении дифференциального сечения рассеяния. Однако в соответствии с результа-тами работ [4; 5] учет неасимптотического характера волновой функции необходим только в об-ласти малых углов (8), когда существует достаточно простое аналитическое представление для этих решений – так называемое приближение Фарри–Зоммерфельда–Мауэ (ФЗМ)

( ) 1 [ ,1, (1 cos )] ( ),2

i iC e F i ipr u p± ± μα∇⎛ ⎞Ψ = − ± ξ − θ⎜ ⎟ε⎝ ⎠prr (11)

где знак «+» соответствует расходящейся, а знак «–» сходящейся волнам, 2(1 )C i eπξ

± = Γ ξ∓ , Z

pαεξ = , а постоянные биспинорные амплитуды задаются в виде

,( )

mv

m v

⎛ ⎞ε +⎜ ⎟⎜ ⎟ε − ⋅⎝ ⎠σ ν

(12)

причем 1v v∗ = , а p

=p

ν .

Как известно, поток частиц, движение которых подчиняется уравнению Дирака, вычисляется следующим образом: †

2 1 1 2 ,∗ ∗= Ψ Ψ = Φ Φ +Φ Φj α σ σ (13)

где 1

2.

⎛ ⎞⎜ ⎟⎜ ⎟⎜ ⎟⎝ ⎠

ΦΨ =

Φ

63

Теперь можно использовать выражение (11) для волновых функций и вычислить поток (13), учитывая что в данном случае

( ,1, ) ( 1,2, )(( )( ) 1)2

.

( ,1, )( ) ( 1,2, )(( ) ( ))2

i

mmF i iz i p F i iz v

C emmF i iz i p F i iz v

+ + ⋅

⎛ ⎞⎡ ⎤ε −ε + ξ + ξ ξ + ⋅ ⋅ −⎜ ⎟⎢ ⎥ε⎜ ⎟⎣ ⎦Ψ = ⎜ ⎟

⎡ ⎤ε +⎜ ⎟ε − ξ σ ⋅ν + ξ ξ + ⋅ − ⋅⎢ ⎥⎜ ⎟ε⎣ ⎦⎝ ⎠

p r

n

n

σ σ ν

σ σ ν

(14)

Проведя соответствующее вычисление получаем следующую формулу для j:

2 2

2

2

2 32 2

2

| | | ( ,1, ) | [( ) ]

| | ( ,1, ) ( 1,2, ) [( ) (( )( ) 1)]2

| | ( ,1, ) ( 1,2, ) [(( ) ( )) ]2

| | | ( 1,2, ) | [(( ) ( )) ((4

C p F i iz v vmC i p F i iz F i iz v v

mC i p F i iz F i iz v v

pC F i iz v

+ ∗

+ ∗ ∗

+ ∗ ∗

+ ∗

= ξ ⋅ +ε −

ξ ξ ξ + ⋅ ⋅ ⋅ − −εε +

ξ ξ ξ + ⋅ − ⋅ +ε

ξξ + ⋅ − ⋅ ⋅

ε

j n

n

n

n n

σ σ

σ ν σ σ σ ν

σ σ ν σ

σ σ ν σ σ )( ) 1)] . ,v c c⋅ − +σ ν

(15)

где c.c – комплексно сопряженная величина. Формулу (15) можно значительно упростить, если учесть что произведение матриц Паули

можно всегда свести к первой степени матрицы Паули, воспользовавшись соотношением ( )( ) ( ) [ ]i⋅ ⋅ = ⋅ + ⋅ ×A B A B A Bσ σ σ , которое справедливо для любых векторов A и B (справедливо также для операторов, если сохранить порядок сомножителей). Например, в выражении (15) будут встречаться такие комбинации [( ) ( )]v v∗ ⋅ + ⋅σ ν σ σ σ ν , которые легко сводятся просто к 2ν . При-ведем лишь окончательные выражения для часто встречающихся слагаемых:

[( ) ( )] 2 , [( ) ( )] 2 ,

[( ) ( )( ) ( )( ) ( )] 2 ,

[( ) ( )( ) ( )( ) ( )] 3 ( ) ,

Re ( ,1, ) ( 1,2, ) ( ) ( )( )

( ) [

v v v v v

v v

v v

iF i iz F i iz v v

b a v

∗ ∗

∗

∗

∗ ∗

∗

⋅ + ⋅ = ⋅ + ⋅ =

⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ =

⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ = ⋅ −

⎡ ⎤ξ ξ + ⋅ ⋅ ⋅ =⎣ ⎦

− + ⋅ ×

n n n

n n n

n n n n n n

n

n n

σ ν σ σ σ ν σ σ σ σ

σ ν σ σ σ ν σ ν σ σ σ ν

σ σ σ σ ν σ ν σ σ σ ν ν

σ ν σ σ σ ν

ν ν ] [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

v a v v

F i iz F i iz v v b av v



∗

∗ ∗ ∗

∗ ∗ ∗

∗ ∗ ∗

− ×

⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦

n

n

n n n

σ ν σ ν

σ ν σ ν σ

σ σ σ

σ σ ν ν ν σ

(16)

где Re ( ,1, ) ( 1,2, )a F i iz F i iz∗⎡ ⎤= ξ ξ +⎣ ⎦ и Im ( ,1, ) ( 1,2, )b F i iz F i iz∗⎡ ⎤= ξ ξ +⎣ ⎦ . Следовательно, используя

(16), поток (15) принимает следующее простое выражение

2 32 2 2 2

2

2

2 2 2

| | | ( ,1, ) | 2 | | | ( 1,2, ) | (3 ( ) 4 )4

| | ( ( ) [ ] [ ] )

2| | 2 ( ) | | [ ] | | [ ] .

pC p F i iz C F i iz

mC p a v v a v v

m mC pb C p av v C p av v

+ +

+ ∗ ∗

+ + ∗ + ∗

ξ= ξ + ξ + ⋅ − + +

εε −

ξ ⋅ × − × −ε

ε +ξ − − ξ × + ξ ×

ε ε

j n n n

n n

n n

ν ν ν

ν ν σ ν σ ν

ν σ ν σ

(17)

63

Теперь можно использовать выражение (11) для волновых функций и вычислить поток (13), учитывая что в данном случае

( ,1, ) ( 1,2, )(( )( ) 1)2

.

( ,1, )( ) ( 1,2, )(( ) ( ))2

i

mmF i iz i p F i iz v

C emmF i iz i p F i iz v

+ + ⋅

⎛ ⎞⎡ ⎤ε −ε + ξ + ξ ξ + ⋅ ⋅ −⎜ ⎟⎢ ⎥ε⎜ ⎟⎣ ⎦Ψ = ⎜ ⎟

⎡ ⎤ε +⎜ ⎟ε − ξ σ ⋅ν + ξ ξ + ⋅ − ⋅⎢ ⎥⎜ ⎟ε⎣ ⎦⎝ ⎠

p r

n

n

σ σ ν

σ σ ν

(14)

Проведя соответствующее вычисление получаем следующую формулу для j:

2 2

2

2

2 32 2

2

| | | ( ,1, ) | [( ) ]

| | ( ,1, ) ( 1,2, ) [( ) (( )( ) 1)]2

| | ( ,1, ) ( 1,2, ) [(( ) ( )) ]2

| | | ( 1,2, ) | [(( ) ( )) ((4

C p F i iz v vmC i p F i iz F i iz v v

mC i p F i iz F i iz v v

pC F i iz v

+ ∗

+ ∗ ∗

+ ∗ ∗

+ ∗

= ξ ⋅ +ε −

ξ ξ ξ + ⋅ ⋅ ⋅ − −εε +

ξ ξ ξ + ⋅ − ⋅ +ε

ξξ + ⋅ − ⋅ ⋅

ε

j n

n

n

n n

σ σ

σ ν σ σ σ ν

σ σ ν σ

σ σ ν σ σ )( ) 1)] . ,v c c⋅ − +σ ν

(15)

где c.c – комплексно сопряженная величина. Формулу (15) можно значительно упростить, если учесть что произведение матриц Паули

можно всегда свести к первой степени матрицы Паули, воспользовавшись соотношением ( )( ) ( ) [ ]i⋅ ⋅ = ⋅ + ⋅ ×A B A B A Bσ σ σ , которое справедливо для любых векторов A и B (справедливо также для операторов, если сохранить порядок сомножителей). Например, в выражении (15) будут встречаться такие комбинации [( ) ( )]v v∗ ⋅ + ⋅σ ν σ σ σ ν , которые легко сводятся просто к 2ν . При-ведем лишь окончательные выражения для часто встречающихся слагаемых:

[( ) ( )] 2 , [( ) ( )] 2 ,

[( ) ( )( ) ( )( ) ( )] 2 ,

[( ) ( )( ) ( )( ) ( )] 3 ( ) ,

Re ( ,1, ) ( 1,2, ) ( ) ( )( )

( ) [

v v v v v

v v

v v

iF i iz F i iz v v

b a v

∗ ∗

∗

∗

∗ ∗

∗

⋅ + ⋅ = ⋅ + ⋅ =

⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ =

⋅ ⋅ ⋅ + ⋅ ⋅ ⋅ = ⋅ −

⎡ ⎤ξ ξ + ⋅ ⋅ ⋅ =⎣ ⎦

− + ⋅ ×

n n n

n n n

n n n n n n

n

n n

σ ν σ σ σ ν σ σ σ σ

σ ν σ σ σ ν σ ν σ σ σ ν

σ σ σ σ ν σ ν σ σ σ ν ν

σ ν σ σ σ ν

ν ν ] [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

Re ( ,1, ) ( 1,2, ) ( ) [ ] ,

v a v v




∗

∗ ∗ ∗

∗ ∗ ∗

∗ ∗ ∗

− ×

⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦⎡ ⎤ξ ξ + ⋅ = − − ×⎣ ⎦

n

n

n n n

σ ν σ ν

σ ν σ ν σ

σ σ σ

σ σ ν ν ν σ

(16)

где Re ( ,1, ) ( 1,2, )a F i iz F i iz∗⎡ ⎤= ξ ξ +⎣ ⎦ и Im ( ,1, ) ( 1,2, )b F i iz F i iz∗⎡ ⎤= ξ ξ +⎣ ⎦ . Следовательно, используя

(16), поток (15) принимает следующее простое выражение

2 32 2 2 2

2

2

2 2 2

| | | ( ,1, ) | 2 | | | ( 1,2, ) | (3 ( ) 4 )4

| | ( ( ) [ ] [ ] )

2| | 2 ( ) | | [ ] | | [ ] .

pC p F i iz C F i iz

mC p a v v a v v

m mC pb C p av v C p av v

+ +

+ ∗ ∗

+ + ∗ + ∗

ξ= ξ + ξ + ⋅ − + +

εε −

ξ ⋅ × − × −ε

ε +ξ − − ξ × + ξ ×

ε ε

j n n n

n n

n n

ν ν ν

ν ν σ ν σ ν

ν σ ν σ

(17)

64

Асимметрия малоуглового рассеяния. Дифференциальное сечение рассеяния выражается через поток следующим образом [2]:

2

0( ) ,d r d

j⋅

σ θ = Ωj n (18)

где 0 2j p= . Используя выражение (17), можно связать это сечение с состоянием поляризации

падающей волны, если воспользоваться определением матрицы плотности электрона v v∗α β βα= ρ =

1/ 2(1 )βα+ ⋅ζ σ , где ζ – удвоенный средний спин в системе покоя электрона – вектор поляри- зации. Тогда (18) принимает вид

( ) 2( , ) ( , ) [ ]( ) ,

2Sp A B

d r dp

ρ ν + ⋅ ×σ θ = Ω

n n nν σ ν (19)

где использовано сокращенное выражение для ( , ) ( , ) [ ]A B⋅ = + ⋅ ×j n n n nν ν σ ν и v v∗α β заменено

на αβρ . В [2] показано что dσ представляется в виде

2( ) ( )(1 ( ) [ ]) ,d Q r dσ θ = θ + Δ θ ⋅ × Ωnζ ν (20)

где ( )Δ θ – так называемая азимутальная асимметрия, смысл которой состоит в следующем: если падающий электрон не поляризован, то его вектор поляризации направлен по ×n ν и степень поляризации равна ( )Δ θ .

В нашем случае величина ( )xΔ имеет следующий вид:

32

2 22 2 22

2

2 2 2 2

2 ( )( ) ,| ( ,1, ) | (1 ) | ( 1,2, ) | px x x

pr pr pr

m r a x xxp F i ix F i ix bξ

ε

ξΔ =

ε ξ − − ξ + − ξ (21)

где построена зависимость не ( )Δ θ , а выполнен переход к безразмерной переменной 0

x θθ= , так

как с помощью нее удобно сравнивать углы рассеяния с «толщиной» дифракционной зоны. На рис. 1 показан график зависимости ( )xΔ при значении параметров 100 cмr = , 11 10,25 10 смm −= ⋅ ,

14 12 10 смp −= ⋅ , 1Z = . Как видно, ( )xΔ всюду конечно. На рис. 2 видно, что при увеличении x, т. е. при уходе из области малых углов, асимметрия исчезает, что соответствует борновскому приближению.

Вследствие зависимости ⋅j n от σ при рассеянии меняется состояние поляризации электрона. Поэтому можно определить спин рассеянного электрона. Спин электрона определяется операто-

ром 0

0⎛ ⎞

= ⎜ ⎟⎝ ⎠

σΣ

σ, который коммутирует с гамильтонианом системы. Следовательно, от вычислений

с биспинорными волновыми функциями можно перейти к спинорным [2]. Определим матрицу плотности рассеянного электрона как

†

† ,( )T T

Sp T Tρ′ρ =ρ

(22)

где T – оператор, который переводит спинор v свободного электрона в спинор электрона после рассеяния, т. е. 1 TvΦ =

( ,1, ) ( 1,2, )(( )( ) 1).2

mT mF i iz i p F i izε −= ε + ξ + ξ ξ + ⋅ ⋅ −

εnσ σ ν

64

Асимметрия малоуглового рассеяния. Дифференциальное сечение рассеяния выражается через поток следующим образом [2]:

2

0( ) ,d r d

j⋅

σ θ = Ωj n (18)

где 0 2j p= . Используя выражение (17), можно связать это сечение с состоянием поляризации

падающей волны, если воспользоваться определением матрицы плотности электрона v v∗α β βα= ρ =

1/ 2(1 )βα+ ⋅ζ σ , где ζ – удвоенный средний спин в системе покоя электрона – вектор поляри- зации. Тогда (18) принимает вид

( ) 2( , ) ( , ) [ ]( ) ,

2Sp A B

d r dp

ρ ν + ⋅ ×σ θ = Ω

n n nν σ ν (19)

где использовано сокращенное выражение для ( , ) ( , ) [ ]A B⋅ = + ⋅ ×j n n n nν ν σ ν и v v∗α β заменено

на αβρ . В [2] показано что dσ представляется в виде

2( ) ( )(1 ( ) [ ]) ,d Q r dσ θ = θ + Δ θ ⋅ × Ωnζ ν (20)

где ( )Δ θ – так называемая азимутальная асимметрия, смысл которой состоит в следующем: если падающий электрон не поляризован, то его вектор поляризации направлен по ×n ν и степень поляризации равна ( )Δ θ .

В нашем случае величина ( )xΔ имеет следующий вид:

32

2 22 2 22

2

2 2 2 2

2 ( )( ) ,| ( ,1, ) | (1 ) | ( 1,2, ) | px x x

pr pr pr

m r a x xxp F i ix F i ix bξ

ε

ξΔ =

ε ξ − − ξ + − ξ (21)

где построена зависимость не ( )Δ θ , а выполнен переход к безразмерной переменной 0

x θθ= , так

как с помощью нее удобно сравнивать углы рассеяния с «толщиной» дифракционной зоны. На рис. 1 показан график зависимости ( )xΔ при значении параметров 100 cмr = , 11 10,25 10 смm −= ⋅ ,

14 12 10 смp −= ⋅ , 1Z = . Как видно, ( )xΔ всюду конечно. На рис. 2 видно, что при увеличении x, т. е. при уходе из области малых углов, асимметрия исчезает, что соответствует борновскому приближению.

Вследствие зависимости ⋅j n от σ при рассеянии меняется состояние поляризации электрона. Поэтому можно определить спин рассеянного электрона. Спин электрона определяется операто-

ром 0

0⎛ ⎞

= ⎜ ⎟⎝ ⎠

σΣ

σ, который коммутирует с гамильтонианом системы. Следовательно, от вычислений

с биспинорными волновыми функциями можно перейти к спинорным [2]. Определим матрицу плотности рассеянного электрона как

†

† ,( )T T

Sp T Tρ′ρ =ρ

(22)

где T – оператор, который переводит спинор v свободного электрона в спинор электрона после рассеяния, т. е. 1 TvΦ =

( ,1, ) ( 1,2, )(( )( ) 1).2

mT mF i iz i p F i izε −= ε + ξ + ξ ξ + ⋅ ⋅ −

εnσ σ ν

65

Рис. 1. Асимметрия малоуглового рассеяния, 0 < х < 10


Тогда вектор поляризации электрона определяется следующим образом:

† †

† †( ) .

( ) ( )v T Tv Sp T TSp T T Sp T T

∗ ρ′ =< >= =ρ ρσ σ

ζ σ (23)

Отсюда следует принципиально важный результат. В отличие от общепринятого подхода борновского вычисления сечения с учетом приближения r r′ в нашем вычислении с использо-ванием точных волновых функций ФЗМ уже в первом порядке по Zα есть поляризационные

65



Тогда вектор поляризации электрона определяется следующим образом:

† †

† †( ) .

( ) ( )v T Tv Sp T TSp T T Sp T T

∗ ρ′ =< >= =ρ ρσ σ

ζ σ (23)

Отсюда следует принципиально важный результат. В отличие от общепринятого подхода борновского вычисления сечения с учетом приближения r r′ в нашем вычислении с использо-ванием точных волновых функций ФЗМ уже в первом порядке по Zα есть поляризационные

66

эффекты, которые отсутствуют в (4). Примечательно, что при более внимательном рассмотрении борновского приближения, как уже отмечалось в разделе 2, результаты вычислений в приближе-ниях ФЗМ и Борна совпадают.

Результат вычисления вектора поляризации (23) приведен ниже.

2 2 2

2 2(| | | | ) Re( ) Im( )[ ] 2 | | ( ) ,

| | | | ( )Re( )A B A B A B B

A B A B

∗ ∗

∗+ − − × + ⋅′ =

+ − ⋅ζ τ ζ τ τ ζ τ

ζζ τ

(24)

где ζ – вектор поляризации падающего электрона, [ ]= ×nτ ν , 2( ,1, ) (mA mF i iz i p F iε−ε= ε + ξ + ξ ξ +

1,2, )(( ) 1)iz ⋅ −n ν , 2 ( 1,2, )mB p F i izε−ε= ξ ξ + .

Из (24) видно, что ′ζ является функцией , ,r θ ϕ . Таким образом, мы можем спроектировать ′ζ на направление, перпендикулярное к ζ , и отделить падающие электроны от рассеянных. Если

теперь найти полный ′ζ как функцию расстояния до источника, то измерение этой величины дает возможность экспериментального исследования рассматриваемого в работе интерференци-онного эффекта в теории рассеяния.

/20 0

1( ) sin ( , , ),z xr d d rπ π′ ′= ϕ θ θ θ ϕζ ζΔΩ ∫ ∫ (25)

где произведено усреднение по углам. Направим ось z по направлению импульса падающих частиц, а x,y,z образуют правую тройку. Пусть частица поляризована в направлении оси z, т. е. ее вектор поляризации имеет следующие компоненты (0,0,1)ζ = . Вектор ν частицы в данной системе ко-ординат совпадает с вектором ζ , а вектор (sin cos ,sin sin ,cos )= θ ϕ θ ϕ θn . Для того чтобы отде-лить рассеянные частицы от падающих, спроектируем ′ζ на какое-либо направление, например, на ось z. Тогда выражение (25) принимает вид

2 2

0 0 2 21 | | | | Im( )cos( ) sin ;

| | | |zA B A Br d d

A B

∗π Δθ − − θ′ = ϕ θ θζ

ΔΩ +∫ ∫

2( ) ,ΔΩ = π Δθ (26)

где Δθ – угловая апертура детектора. Апертура детектора не зависит от r. Добавим и вычтем в числителе 2| |B , тогда формула преобразуется к виду

( ) 1 ( );z zr r′ ′= − Δζ ζ

2

0 0 2 21 2 | | Im( )cos( ) sin .

| | | |zB A Br d d

A B

∗π Δθ + θ′Δ = ϕ θ θζ

ΔΩ +∫ ∫ (27)

Величина ( )z r′Δζ определяет изменение поляризации конечного пучка. Поскольку 1Δθ ≤ ,

а подынтегральное выражение зависит только от переменной 2(1 cos ) / 2,z pr pr= − θ ≈ θ то можно проинтегрировать по азимутальному углу и сделать замену переменных

sin dzdpr

θ θ ≈

и поправка к поляризации принимает вид ( cos 1θ ≈ )

2 2

( ) /202 2 2

2 2 | | Im( )( ) .( ) | | | |

prz

B A Br dzpr A B

∗Δθ +′Δ =ζ

Δθ +∫ (28)

При условии полной поляризации падающего пучка величина | ( ) |z r′Δζ фактически опреде-ляет вероятность обнаружить в пучке после рассеяния электрон с противоположным направле-нием спина. Для оценки этой величины предположим, что детектор, расположенный на расстоя-нии r от центра, имеет площадь S. Тогда 2 2( ) /S rΔθ ≈ , и формула (28) принимает вид

66

эффекты, которые отсутствуют в (4). Примечательно, что при более внимательном рассмотрении борновского приближения, как уже отмечалось в разделе 2, результаты вычислений в приближе-ниях ФЗМ и Борна совпадают.

Результат вычисления вектора поляризации (23) приведен ниже.

2 2 2

2 2(| | | | ) Re( ) Im( )[ ] 2 | | ( ) ,

| | | | ( )Re( )A B A B A B B

A B A B

∗ ∗

∗+ − − × + ⋅′ =

+ − ⋅ζ τ ζ τ τ ζ τ

ζζ τ

(24)

где ζ – вектор поляризации падающего электрона, [ ]= ×nτ ν , 2( ,1, ) (mA mF i iz i p F iε−ε= ε + ξ + ξ ξ +

1,2, )(( ) 1)iz ⋅ −n ν , 2 ( 1,2, )mB p F i izε−ε= ξ ξ + .

Из (24) видно, что ′ζ является функцией , ,r θ ϕ . Таким образом, мы можем спроектировать ′ζ на направление, перпендикулярное к ζ , и отделить падающие электроны от рассеянных. Если

теперь найти полный ′ζ как функцию расстояния до источника, то измерение этой величины дает возможность экспериментального исследования рассматриваемого в работе интерференци-онного эффекта в теории рассеяния.

/20 0

1( ) sin ( , , ),z xr d d rπ π′ ′= ϕ θ θ θ ϕζ ζΔΩ ∫ ∫ (25)

где произведено усреднение по углам. Направим ось z по направлению импульса падающих частиц, а x,y,z образуют правую тройку. Пусть частица поляризована в направлении оси z, т. е. ее вектор поляризации имеет следующие компоненты (0,0,1)ζ = . Вектор ν частицы в данной системе ко-ординат совпадает с вектором ζ , а вектор (sin cos ,sin sin ,cos )= θ ϕ θ ϕ θn . Для того чтобы отде-лить рассеянные частицы от падающих, спроектируем ′ζ на какое-либо направление, например, на ось z. Тогда выражение (25) принимает вид

2 2

0 0 2 21 | | | | Im( )cos( ) sin ;

| | | |zA B A Br d d

A B

∗π Δθ − − θ′ = ϕ θ θζ

ΔΩ +∫ ∫

2( ) ,ΔΩ = π Δθ (26)

где Δθ – угловая апертура детектора. Апертура детектора не зависит от r. Добавим и вычтем в числителе 2| |B , тогда формула преобразуется к виду

( ) 1 ( );z zr r′ ′= − Δζ ζ

2

0 0 2 21 2 | | Im( )cos( ) sin .

| | | |zB A Br d d

A B

∗π Δθ + θ′Δ = ϕ θ θζ

ΔΩ +∫ ∫ (27)

Величина ( )z r′Δζ определяет изменение поляризации конечного пучка. Поскольку 1Δθ ≤ ,

а подынтегральное выражение зависит только от переменной 2(1 cos ) / 2,z pr pr= − θ ≈ θ то можно проинтегрировать по азимутальному углу и сделать замену переменных

sin dzdpr

θ θ ≈

и поправка к поляризации принимает вид ( cos 1θ ≈ )

2 2

( ) /202 2 2

2 2 | | Im( )( ) .( ) | | | |

prz

B A Br dzpr A B

∗Δθ +′Δ =ζ

Δθ +∫ (28)

При условии полной поляризации падающего пучка величина | ( ) |z r′Δζ фактически опреде-ляет вероятность обнаружить в пучке после рассеяния электрон с противоположным направле-нием спина. Для оценки этой величины предположим, что детектор, расположенный на расстоя-нии r от центра, имеет площадь S. Тогда 2 2( ) /S rΔθ ≈ , и формула (28) принимает вид

67

2 2

( ) /20 2 2

2 2 | | Im( )( ) .( ) | | | |

prz

r B A Br dzpS A B

∗Δθ +′Δ =ζ

+∫ (29)

Если выбрать 210 смS −= и 12 110 смp −= , что соответствует энергии электронов E = 50 MэВ, а r измерять в метрах, то 2 6( ) / 2 10 ( ) 1pr r mΔθ ∼ , и верхний предел можно заменить на беско-нечность. В результате получим

2

80 2 2

2 | | Im( )( ) 10 ( ) ,| | | |zB A Br r m dzA B

∗∞− +′Δ =ζ

+∫ (30)

т. е. интеграл сводится к некоему числу, не зависящему от r, а изменение поляризации растет пропорционально r.

Эту величину следует сравнить с вероятностью изменения поляризации электрона, которая экспериментально наблюдается при рассеянии на большие углы и возникает при учете второго порядка теории возмущений. Согласно [2], эта вероятность, при рассеянии на угол 0θ в детектор с угловым разрешением 310−Δθ = , что соответствует приведенным выше параметрам, определя-ется соотношением

3 2

2 702 2

00 0

sin / 2 1 1| | 2 ( ) ln 10 .sin / 2cos / 2(1 sin / 2)

v vZv

−θ −Δ ≈ π Δθ α ≈

θθ − θ (31)

Сравнение результатов (30) и оценки (31) показывает, что это величины одного порядка, так что существует принципиальная возможность наблюдения рассматриваемого в настоящей рабо-те интерференционного эффекта при рассеянии в кулоновском поле.

Заключение. В данной работе исследовалось рассеяние релятивистских частиц в кулонов-ском поле. Показано, что использование асимптотического представления для нахождения диф-ференциального сечения рассеяния не применимо в данном случае, так как при рассеянии на ма-лые углы необходимо учитывать, что частицы находятся в дифракционной зоне. Получено диф-ференциальное сечение рассеяния, вычисленное на основе точного решения уравнения Дирака в кулоновском потенциале. Показано, что дифференциальное сечение при любых углах рассея-ния остается конечным и вычислена поляризация пучка после взаимодействия с рассеивающим центром. Показано, что измерение поляризации пучка при рассеянии дает принципиальную воз-можность экспериментального исследования интерференционных эффектов при рассеянии частиц дальнодействующими потенциалами.

Литература 1. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Квантовая механика. Нерелятивистская теория. М., 2004. 2. А х и е з е р А. И., Б е р е с т е ц к и й В. Б. Квантовая электродинамика. М., 1969. 3. P o k l o n s k i i N. A. et al. // Appl. Phys. Lett. 2003. Vol. 93. P. 9749. 4. Б а р ы ш е в с к и й В. Г., К о р е н н а я Л. Н., Ф е р а н ч у к И. Д. // ЖЭТФ. 1971. Т. 61. С. 469; Soviet Physics

JETP. 1972. Vol. 34. P. 249. 5. B a r y s h e v s k y V. G., F e r a n c h u k I. D., K a t s P. B. // Phys. Rev. 2004. Vol. A 79. P. 052701. 6. M o t t N. F. // Proc. Roy. Soc. 1925. Vol. A 124. P. 425.

FERANCHUK I. D., SKOROMNIK O. D.

[email protected]

REGULARIZATION OF MOTT SCATTERING CROSS SECTION IN THE COULOMB FIELD

Summary It is shown in the present paper that the singularity of the differential cross section of relativistic electrons in the Coulomb

field of the nuclei is appeared due to incorrect use of the asymptotic form of wave function within the small angle range. The correct solution of the Dirac equation has been used in the small angle range (Furry–Zommerfeld–Maye approximation). It leads to the regularization of the cross section in the entire angle range. The polarization of the scattered relativistic particles proves to be different from the polarization of the incident beam. It gives a principal possibility to distinguish the scattered particles from the incident ones and to measure experimentally the diffraction effects in the scattering of the charged particles.

67

2 2

( ) /20 2 2

2 2 | | Im( )( ) .( ) | | | |

prz

r B A Br dzpS A B

∗Δθ +′Δ =ζ

+∫ (29)

Если выбрать 210 смS −= и 12 110 смp −= , что соответствует энергии электронов E = 50 MэВ, а r измерять в метрах, то 2 6( ) / 2 10 ( ) 1pr r mΔθ ∼ , и верхний предел можно заменить на беско-нечность. В результате получим

2

80 2 2

2 | | Im( )( ) 10 ( ) ,| | | |zB A Br r m dzA B

∗∞− +′Δ =ζ

+∫ (30)

т. е. интеграл сводится к некоему числу, не зависящему от r, а изменение поляризации растет пропорционально r.

Эту величину следует сравнить с вероятностью изменения поляризации электрона, которая экспериментально наблюдается при рассеянии на большие углы и возникает при учете второго порядка теории возмущений. Согласно [2], эта вероятность, при рассеянии на угол 0θ в детектор с угловым разрешением 310−Δθ = , что соответствует приведенным выше параметрам, определя-ется соотношением

3 2

2 702 2

00 0

sin / 2 1 1| | 2 ( ) ln 10 .sin / 2cos / 2(1 sin / 2)

v vZv

−θ −Δ ≈ π Δθ α ≈

θθ − θ (31)

Сравнение результатов (30) и оценки (31) показывает, что это величины одного порядка, так что существует принципиальная возможность наблюдения рассматриваемого в настоящей рабо-те интерференционного эффекта при рассеянии в кулоновском поле.

Заключение. В данной работе исследовалось рассеяние релятивистских частиц в кулонов-ском поле. Показано, что использование асимптотического представления для нахождения диф-ференциального сечения рассеяния не применимо в данном случае, так как при рассеянии на ма-лые углы необходимо учитывать, что частицы находятся в дифракционной зоне. Получено диф-ференциальное сечение рассеяния, вычисленное на основе точного решения уравнения Дирака в кулоновском потенциале. Показано, что дифференциальное сечение при любых углах рассея-ния остается конечным и вычислена поляризация пучка после взаимодействия с рассеивающим центром. Показано, что измерение поляризации пучка при рассеянии дает принципиальную воз-можность экспериментального исследования интерференционных эффектов при рассеянии частиц дальнодействующими потенциалами.

Литература 1. Л а н д а у Л. Д., Л и ф ш и ц Е. М. Квантовая механика. Нерелятивистская теория. М., 2004. 2. А х и е з е р А. И., Б е р е с т е ц к и й В. Б. Квантовая электродинамика. М., 1969. 3. P o k l o n s k i i N. A. et al. // Appl. Phys. Lett. 2003. Vol. 93. P. 9749. 4. Б а р ы ш е в с к и й В. Г., К о р е н н а я Л. Н., Ф е р а н ч у к И. Д. // ЖЭТФ. 1971. Т. 61. С. 469; Soviet Physics

JETP. 1972. Vol. 34. P. 249. 5. B a r y s h e v s k y V. G., F e r a n c h u k I. D., K a t s P. B. // Phys. Rev. 2004. Vol. A 79. P. 052701. 6. M o t t N. F. // Proc. Roy. Soc. 1925. Vol. A 124. P. 425.

FERANCHUK I. D., SKOROMNIK O. D.

[email protected]

REGULARIZATION OF MOTT SCATTERING CROSS SECTION IN THE COULOMB FIELD

Summary It is shown in the present paper that the singularity of the differential cross section of relativistic electrons in the Coulomb

field of the nuclei is appeared due to incorrect use of the asymptotic form of wave function within the small angle range. The correct solution of the Dirac equation has been used in the small angle range (Furry–Zommerfeld–Maye approximation). It leads to the regularization of the cross section in the entire angle range. The polarization of the scattered relativistic particles proves to be different from the polarization of the incident beam. It gives a principal possibility to distinguish the scattered particles from the incident ones and to measure experimentally the diffraction effects in the scattering of the charged particles.

68



ХИМИЯ

УДК 541.138:547.1’13

Д. А. РУДАКОВ1, В. Л. ШИРОКИЙ1, В. А. КНИЖНИКОВ1, член-корреспондент В. И. ПОТКИН1,

член-корреспондент Н. А. МАЙЕР1, З. А. СТАРИКОВА2

ЭЛЕКТРОХИМИЧЕСКИЙ СИНТЕЗ ТЕТРАМЕТИЛАММОНИЙНОЙ СОЛИ 7,4 ́-ДИМЕТИЛ-8,8´-ДИБРОМ-БИС(1,2-ДИКАРБОЛЛИЛ)ЖЕЛЕЗА(III)

1Институт физико-органической химии НАН Беларуси, Минск 2Институт элементоорганических соединений им. А. Н. Несмеянова РАН, Москва Поступило 08.04.2009

Интерес к бисдикарболлильным производным железа и кобальта обусловлен возможностью использования их в различных областях на практике. Бисдикарболлиды кобальта (III) предло- жены в качестве компонентов ион-селективных электродов и эффективных экстрагентов радио-нуклидов, при этом установлено, что введение галогена в молекулу бисдикарболлида повышает его устойчивость в агрессивных средах [1–5]. Бисдикарболлиды железа(III) представляют инте-рес в качестве строительных блоков для синтеза молекулярных проводников и ферромагнетиков [6–8]. В то время как функциональные производные бис(дикарболлида)кобальта(III) достаточно подробно изучены [9], бис(дикарболлиды)железа(III) исследованы в значительно меньшей сте-пени [10; 11].

Цель работы – разработка электрохимического метода метилирования бромированных про- изводных бис(дикарболлил)железа(III) и изучение электрохимического поведения полученного метилированного соединения методом циклической вольтамперометрии.

Ранее мы установили, что процесс электролиза тетраметиламмонийной соли бис(1,2-дикар- боллил)железа(III), Me4N+[3,3'-Fe(1,2-C2B9H11)2]– 1, в среде абсолютного метанола в присутствии бромида натрия при 50 ºС приводит к образованию моно-, Me4N+[8-Br-3,3'-Fe(1,2-C2B9H10)(1,2-C2B9H11)]– 2, и дибромированного, (Me4N+)2[8,8'-Br2-3,3'-Fe(1,2-C2B9H10)2]2– 3, производных, в которых центральный атом железа имеет разную степень окисления [11]. В продолжение этой работы нами осуществлен электролиз образующейся при бромировании смеси соединений 2 и 3 в аналогичных условиях, в результате чего было получено диметилпроизводное Me4N+[7,4'-(СН3)2-8,8'-Br2-3,3'-Fe(1,2-C2B9H9)2]– 4 с выходом по веществу 26 %.

CC

CCЭлектролиз (Pt-анод)

NaBr, MeOH

CC

BrFe FeFe +

CC Br

Fe

Электролиз (Pt-анод)

NaBr, MeOH

1 3 4

CC1

24

56

7

9

10

1112

8 BrC

C BrC

C BrC

C

2

CH3

H3C

1'2'

8'7'4'

11'6'12'

9'

10'

5'

124

56

7

9

10

1112

8

1'2'

8'7' 4'

11'6'12'

9'

10'

5'

124

56

7

9

10

1112

8

1'2' 8'

7'4'

11'6'

12'9'

10'

5'

124

56

7

9

10

1112

8

1'2' 8'

7'4'

11'6'12'

9'

10'

5'

Протекание реакции и чистоту соединения 4 контролировали методом циклической вольтам-

перометрии, строение полученного вещества 4 установлено на основании данных рентгено- структурного анализа.

68



ХИМИЯ

УДК 541.138:547.1’13

Д. А. РУДАКОВ1, В. Л. ШИРОКИЙ1, В. А. КНИЖНИКОВ1, член-корреспондент В. И. ПОТКИН1,

член-корреспондент Н. А. МАЙЕР1, З. А. СТАРИКОВА2

ЭЛЕКТРОХИМИЧЕСКИЙ СИНТЕЗ ТЕТРАМЕТИЛАММОНИЙНОЙ СОЛИ 7,4 ́-ДИМЕТИЛ-8,8´-ДИБРОМ-БИС(1,2-ДИКАРБОЛЛИЛ)ЖЕЛЕЗА(III)

1Институт физико-органической химии НАН Беларуси, Минск 2Институт элементоорганических соединений им. А. Н. Несмеянова РАН, Москва Поступило 08.04.2009

Интерес к бисдикарболлильным производным железа и кобальта обусловлен возможностью использования их в различных областях на практике. Бисдикарболлиды кобальта (III) предло- жены в качестве компонентов ион-селективных электродов и эффективных экстрагентов радио-нуклидов, при этом установлено, что введение галогена в молекулу бисдикарболлида повышает его устойчивость в агрессивных средах [1–5]. Бисдикарболлиды железа(III) представляют инте-рес в качестве строительных блоков для синтеза молекулярных проводников и ферромагнетиков [6–8]. В то время как функциональные производные бис(дикарболлида)кобальта(III) достаточно подробно изучены [9], бис(дикарболлиды)железа(III) исследованы в значительно меньшей сте-пени [10; 11].

Цель работы – разработка электрохимического метода метилирования бромированных про- изводных бис(дикарболлил)железа(III) и изучение электрохимического поведения полученного метилированного соединения методом циклической вольтамперометрии.

Ранее мы установили, что процесс электролиза тетраметиламмонийной соли бис(1,2-дикар- боллил)железа(III), Me4N+[3,3'-Fe(1,2-C2B9H11)2]– 1, в среде абсолютного метанола в присутствии бромида натрия при 50 ºС приводит к образованию моно-, Me4N+[8-Br-3,3'-Fe(1,2-C2B9H10)(1,2-C2B9H11)]– 2, и дибромированного, (Me4N+)2[8,8'-Br2-3,3'-Fe(1,2-C2B9H10)2]2– 3, производных, в которых центральный атом железа имеет разную степень окисления [11]. В продолжение этой работы нами осуществлен электролиз образующейся при бромировании смеси соединений 2 и 3 в аналогичных условиях, в результате чего было получено диметилпроизводное Me4N+[7,4'-(СН3)2-8,8'-Br2-3,3'-Fe(1,2-C2B9H9)2]– 4 с выходом по веществу 26 %.

CC

CCЭлектролиз (Pt-анод)

NaBr, MeOH

CC

BrFe FeFe +

CC Br

Fe

Электролиз (Pt-анод)

NaBr, MeOH

1 3 4

CC1

24

56

7

9

10

1112

8 BrC

C BrC

C BrC

C

2

CH3

H3C

1'2'

8'7'4'

11'6'12'

9'

10'

5'

124

56

7

9

10

1112

8

1'2'

8'7' 4'

11'6'12'

9'

10'

5'

124

56

7

9

10

1112

8

1'2' 8'

7'4'

11'6'

12'9'

10'

5'

124

56

7

9

10

1112

8

1'2' 8'

7'4'

11'6'12'

9'

10'

5'

Протекание реакции и чистоту соединения 4 контролировали методом циклической вольтам-

перометрии, строение полученного вещества 4 установлено на основании данных рентгено- структурного анализа.

69

По данным РСА, бисдикарболлид 4 содержит атомы брома в положениях В(8) и В(8′) и по одному метильному заместителю в каждом карборановом каркасе в пентагональной плоскости С2В3 при атомах бора, соседних с атомами углерода. Из соотношения (1 : 1) для тетраметилам-монийных катионов и металлакарборановых кластеров следует, что центральный атом железа имеет степень окисления +3.

Известно, что в процессе электролиза в абсолютном метаноле в присутствии ряда фоновых электролитов, в том числе и бромида натрия, могут протекать либо реакция бромирования, либо реакция метоксилирования [12; 13], поэтому установленный нами факт электрохимического ме-тилирования соединения 4 в данных условиях достаточно нетривиален.

Расположение метильных заместителей в карборановых каркасах соединения 4 таково, что они не создают друг другу стерических препятствий. Видимо, это связано с ориентирующим влиянием метильного заместителя в одном из карборановых каркасов при введении второго метильного замес-тителя по положению В(4′) в ранее неметилированный карборановый фрагмент металлакарборана.

ИК-спектр соединения 4 идентичен спектрам соединений 2 и 3 и содержит характерные по-лосы деформационных колебаний связей В–Вr (790–850 см–1) и В–Н (2500–2600 см–1).

Данные ЦВА комплекса 4 показали наличие одного обратимого одноэлектронного процесса восстановления при потенциале 0,0 В (относительно н. к. э.). Наличие обратимых окислительно-восстановительных процессов способствует переносу электронов с катода на анод посредством восстановленных металлакарборановых частиц, что требует пропускания значительно большего количества электричества, чем следует из расчетов по уравнению Фарадея.

Структура aниона бис(дикарболлил)железа(III) представлена на рисунке (а). Следует отметить, что оба карболлильных каркаса имеют одинаковые геометрические па-

раметры (таблица), их взаимное расположение соответствует мезо-форме, которая стабили- зирована внутрианионной водородной связью C2–H4….Br1a (расстояния C2…Br1′ 3,451(4) Å и H4…Br1′ 2,81(3) Å, угол C2–H4…Br1′ 125(2)º) (рисунок, б).

Поведение бис(дикарболлил)железа отличается от бис(дикарболлил)кобальта, в котором за-мещение протекает сначала по положению В(8), а после по положениям В(9) и В(12) в нижнем ярусе карборанового остова. Кроме того, электрохимическое галогенирование бис(дикарболлил)ко- бальта в аналогичных условиях останавливается на введении двух атомов галогенов в молекулу, функционализация соединения 1 протекает более глубоко. Следовательно, бис(дикарболлил)же- лезо в условиях электролиза обладает большей реакционной способностью в сравнении с ко-бальтакарбораном. Существенное отличие продуктов галогенирования металлакарборанов желе-за и кобальта, видимо, обусловлено строением внешних электронных оболочек этих металлов.

а б

69

По данным РСА, бисдикарболлид 4 содержит атомы брома в положениях В(8) и В(8′) и по одному метильному заместителю в каждом карборановом каркасе в пентагональной плоскости С2В3 при атомах бора, соседних с атомами углерода. Из соотношения (1 : 1) для тетраметилам-монийных катионов и металлакарборановых кластеров следует, что центральный атом железа имеет степень окисления +3.

Известно, что в процессе электролиза в абсолютном метаноле в присутствии ряда фоновых электролитов, в том числе и бромида натрия, могут протекать либо реакция бромирования, либо реакция метоксилирования [12; 13], поэтому установленный нами факт электрохимического ме-тилирования соединения 4 в данных условиях достаточно нетривиален.

Расположение метильных заместителей в карборановых каркасах соединения 4 таково, что они не создают друг другу стерических препятствий. Видимо, это связано с ориентирующим влиянием метильного заместителя в одном из карборановых каркасов при введении второго метильного замес-тителя по положению В(4′) в ранее неметилированный карборановый фрагмент металлакарборана.

ИК-спектр соединения 4 идентичен спектрам соединений 2 и 3 и содержит характерные по-лосы деформационных колебаний связей В–Вr (790–850 см–1) и В–Н (2500–2600 см–1).

Данные ЦВА комплекса 4 показали наличие одного обратимого одноэлектронного процесса восстановления при потенциале 0,0 В (относительно н. к. э.). Наличие обратимых окислительно-восстановительных процессов способствует переносу электронов с катода на анод посредством восстановленных металлакарборановых частиц, что требует пропускания значительно большего количества электричества, чем следует из расчетов по уравнению Фарадея.

Структура aниона бис(дикарболлил)железа(III) представлена на рисунке (а). Следует отметить, что оба карболлильных каркаса имеют одинаковые геометрические па-

раметры (таблица), их взаимное расположение соответствует мезо-форме, которая стабили- зирована внутрианионной водородной связью C2–H4….Br1a (расстояния C2…Br1′ 3,451(4) Å и H4…Br1′ 2,81(3) Å, угол C2–H4…Br1′ 125(2)º) (рисунок, б).

Поведение бис(дикарболлил)железа отличается от бис(дикарболлил)кобальта, в котором за-мещение протекает сначала по положению В(8), а после по положениям В(9) и В(12) в нижнем ярусе карборанового остова. Кроме того, электрохимическое галогенирование бис(дикарболлил)ко- бальта в аналогичных условиях останавливается на введении двух атомов галогенов в молекулу, функционализация соединения 1 протекает более глубоко. Следовательно, бис(дикарболлил)же- лезо в условиях электролиза обладает большей реакционной способностью в сравнении с ко-бальтакарбораном. Существенное отличие продуктов галогенирования металлакарборанов желе-за и кобальта, видимо, обусловлено строением внешних электронных оболочек этих металлов.

а б

70

Важнейшие структурные параметры аниона бис(дикарболлил)железа(III)

Связь Длина, Å Валентный угол Град. Торсионный угол Град.

Fe–C(1) 2,057(4) B(4)–B(8)–Br 126,0(3) B(5)–B(9)–B(12)–B(11) 0,6(4) Fe–C(2) 2,058(4) B(12)–B(8)–Br 114,7(3) B(9)–B(12)–B(11)–B(6) 0,5(4) Fe–B(8) 2,154(3) B(9)–B(8)–Br 118,2(3) B(12)–B(11)–B(6)–B(5) –1,4(4) Fe–B(4) 2,141(4) B(7)–B(8)–Br 121,3(3) B(11)–B(6)–B(5)–B(9) 1,7(4) Fe–B(7) 2,118(4) C–B(7)–B(11) 103,9(3) B(12)–B(9)–B(5)–B(6) –1,5(4) Br–B(8) 1,992(5) C–B(7)–B(8) 138,5(4) C(2)–C(1)–B(4)–B(8) 2,6(4) В(7)–С 1,784(7) C–B(7)–B(12) 118,4(3) B(7)–B(8)–B(4)–C(1) –3,6(4) C(1)–C(2) 1,609(6) C–B(7)–Fe 121,2(2) B(4)–B(8)–B(7)–C(2) 3,4(4) C(1)–B(4) 1,678(6) C(2)–B(7)–C 116,2(3) C(1)–C(2)–B(7)–B(8) –1,9(4) B(4)–В(8) 1,797(6) C(1)–B(4)–B(8) 104,2(3) B(7)–C(2)–C(1)–B(4) –0,5(4) В(8)–В(7) 1,772(6) B(4)–B(8)–B(7) 107,8(3) B(10)–B(9)–B(8)–B(7) –0,2(4) В(7)–С(2) 1,690(7) C(2)–B(7)–B(8) 103,4(3) B(9)–B(8)–B(7)–B(11) 0,5(4) В(11)–В(6) 1,783(7) C(1)–C(2)–B(7) 112,9(3) B(10)–B(11)–B(7)–B(8) –0,7(4) В(6)–В(5) 1,772(7) C(2)–C(1)–B(4) 111,6(3) B(9)–B(10)–B(11)–B(7) 0,6(4) В(5)–В(9) 1,764(7) B(9)–B(12)–B(11) 107,6(3) B(8)–B(9)–B(10)–B(11) –0,2(4) В(9)–В(12) 1,739(7) B(12)–B(11)–B(6) 107,8(3) B(10)–B(12)–B(8)–B(4) –0,1(4) В(12)–В(11) 1,737(7) B(11)–B(6)–B(5) 107,4(4) B(12)–B(8)–B(4)–B(5) –0,6(4) В(10)–B(5) 1,777(7) B(9)–B(5)–B(6) 107,1(4) B(10)–B(5)–B(4)–B(8) 1,1(4) В(10)–B(6) 1,764(7) B(5)–B(9)–B(12) 109,9(4) B(12)–B(10)–B(5)–B(4) –1,2(4) В(10)–B(12) 1,768(7) B(12)–B(8)–B(7) 60,8(2) B(8)–B(12)–B(10)–B(5) 0,8(4) В(10)–B(11) 1,773(7) B(8)–B(7)–B(12) 59,5(2) B(4)–C(1)–B(6)–B(10) 4,3(4) В(10)–B(9) 1,744(7) B(8)–B(12)–B(7) 59,7(2) B(7)–C(2)–B(6)–B(10) –5,5(4)

Экспериментальная часть. Синтезы проводили в электрохимической ячейке, описанной

в [14]. Тетраметиламмонийная соль бис(дикарболлил)железа(III) получена по методике [15]. Для регистрации данных циклической вольтамперометрии использовали потенциостат

ПИ-50-1 с программатором ПР-8. Измерения проводили в трехэлектродной электрохимической ячейке с точечным стеклоуглеродным электродом в деаэрированных аргоном 0,1 М растворах Bu4NBF4 в ацетонитриле при 25 ºС. В качестве электрода сравнения использовали насыщенный каломельный электрод; вспомогательным электродом служила платиновая пластина (0,5×2 см). Скорость развертки 200 мВ/с.

ИК-спектр снимали на фурье-спектрофотометре Protege-460 с приготовлением образцов в виде таблеток с KBr.

Рентгеноструктурное исследование тетраметиламмонийной соли 7,4′-диметил-8,8′-дибром- бис(1,2-дикарболлил)железа(III) 4. Зеленые пластинчатые кристаллы [С6H24B18Br2Fe]–1[C4H12N]+1 (M = 580,65) моноклинные, при 120 К a = 22,318(7) Å, b = 11,397(4) Å, c = 9,752(3) Å, β = 105,549(6), V = 2390(1) Å3, пространственная группа С2/с, Z = 4, Dвыч. = 1,614 г/см3. Экспериментальный набор 12250 отражений получен на дифрактометре Bruker SMART CCD area detector при 120 К (λ Мо-Кα-излучение, 2θmax = 59º) c монокристалла размером 0,30×0,25×0,20 мм. После усредне-ния эквивалентных отражений получено 3135 независимых отражений (R(int) = 0,0744), которые использованы для расшифровки и уточнения структуры. Поглощение (μ = 3,978 мм–1) учитыва-лось с помощью программы SADABS [16], коэффициенты трансмиссии Tmax и Tmin соответствен-но равны 0,862; 0,600. Структура решена прямым методом, все неводородные атомы локализо-ваны в разностных синтезах электронной плотности и уточнены по F2

hkl в анизотропном при-ближении; атомы водорода в карболлильных ядрах локализованы на картах разностных синтезов электронной плотности и уточнены в изотропном приближении, атомы водорода метильных групп помещены в геометрически рассчитанные позиции и учтены при уточнении в модели «на-ездника» с U(H) = 1,5 U(C), где U(C) – эквивалентный температурный фактор атома углерода, с которым связан соответствующий атом Н. Окончательное значение факторов недостоверности: R1 = 0,0452 (вычислен по Fhkl для 1763 отражений с I > 2σ(I)), wR2 = 0,0944 (вычислен по F2

hkl для всех 3135 отражений), GOOF = 0,990, 183 уточняемых параметра.

70

Важнейшие структурные параметры аниона бис(дикарболлил)железа(III)

Связь Длина, Å Валентный угол Град. Торсионный угол Град.

Fe–C(1) 2,057(4) B(4)–B(8)–Br 126,0(3) B(5)–B(9)–B(12)–B(11) 0,6(4) Fe–C(2) 2,058(4) B(12)–B(8)–Br 114,7(3) B(9)–B(12)–B(11)–B(6) 0,5(4) Fe–B(8) 2,154(3) B(9)–B(8)–Br 118,2(3) B(12)–B(11)–B(6)–B(5) –1,4(4) Fe–B(4) 2,141(4) B(7)–B(8)–Br 121,3(3) B(11)–B(6)–B(5)–B(9) 1,7(4) Fe–B(7) 2,118(4) C–B(7)–B(11) 103,9(3) B(12)–B(9)–B(5)–B(6) –1,5(4) Br–B(8) 1,992(5) C–B(7)–B(8) 138,5(4) C(2)–C(1)–B(4)–B(8) 2,6(4) В(7)–С 1,784(7) C–B(7)–B(12) 118,4(3) B(7)–B(8)–B(4)–C(1) –3,6(4) C(1)–C(2) 1,609(6) C–B(7)–Fe 121,2(2) B(4)–B(8)–B(7)–C(2) 3,4(4) C(1)–B(4) 1,678(6) C(2)–B(7)–C 116,2(3) C(1)–C(2)–B(7)–B(8) –1,9(4) B(4)–В(8) 1,797(6) C(1)–B(4)–B(8) 104,2(3) B(7)–C(2)–C(1)–B(4) –0,5(4) В(8)–В(7) 1,772(6) B(4)–B(8)–B(7) 107,8(3) B(10)–B(9)–B(8)–B(7) –0,2(4) В(7)–С(2) 1,690(7) C(2)–B(7)–B(8) 103,4(3) B(9)–B(8)–B(7)–B(11) 0,5(4) В(11)–В(6) 1,783(7) C(1)–C(2)–B(7) 112,9(3) B(10)–B(11)–B(7)–B(8) –0,7(4) В(6)–В(5) 1,772(7) C(2)–C(1)–B(4) 111,6(3) B(9)–B(10)–B(11)–B(7) 0,6(4) В(5)–В(9) 1,764(7) B(9)–B(12)–B(11) 107,6(3) B(8)–B(9)–B(10)–B(11) –0,2(4) В(9)–В(12) 1,739(7) B(12)–B(11)–B(6) 107,8(3) B(10)–B(12)–B(8)–B(4) –0,1(4) В(12)–В(11) 1,737(7) B(11)–B(6)–B(5) 107,4(4) B(12)–B(8)–B(4)–B(5) –0,6(4) В(10)–B(5) 1,777(7) B(9)–B(5)–B(6) 107,1(4) B(10)–B(5)–B(4)–B(8) 1,1(4) В(10)–B(6) 1,764(7) B(5)–B(9)–B(12) 109,9(4) B(12)–B(10)–B(5)–B(4) –1,2(4) В(10)–B(12) 1,768(7) B(12)–B(8)–B(7) 60,8(2) B(8)–B(12)–B(10)–B(5) 0,8(4) В(10)–B(11) 1,773(7) B(8)–B(7)–B(12) 59,5(2) B(4)–C(1)–B(6)–B(10) 4,3(4) В(10)–B(9) 1,744(7) B(8)–B(12)–B(7) 59,7(2) B(7)–C(2)–B(6)–B(10) –5,5(4)

Экспериментальная часть. Синтезы проводили в электрохимической ячейке, описанной

в [14]. Тетраметиламмонийная соль бис(дикарболлил)железа(III) получена по методике [15]. Для регистрации данных циклической вольтамперометрии использовали потенциостат

ПИ-50-1 с программатором ПР-8. Измерения проводили в трехэлектродной электрохимической ячейке с точечным стеклоуглеродным электродом в деаэрированных аргоном 0,1 М растворах Bu4NBF4 в ацетонитриле при 25 ºС. В качестве электрода сравнения использовали насыщенный каломельный электрод; вспомогательным электродом служила платиновая пластина (0,5×2 см). Скорость развертки 200 мВ/с.

ИК-спектр снимали на фурье-спектрофотометре Protege-460 с приготовлением образцов в виде таблеток с KBr.

Рентгеноструктурное исследование тетраметиламмонийной соли 7,4′-диметил-8,8′-дибром- бис(1,2-дикарболлил)железа(III) 4. Зеленые пластинчатые кристаллы [С6H24B18Br2Fe]–1[C4H12N]+1 (M = 580,65) моноклинные, при 120 К a = 22,318(7) Å, b = 11,397(4) Å, c = 9,752(3) Å, β = 105,549(6), V = 2390(1) Å3, пространственная группа С2/с, Z = 4, Dвыч. = 1,614 г/см3. Экспериментальный набор 12250 отражений получен на дифрактометре Bruker SMART CCD area detector при 120 К (λ Мо-Кα-излучение, 2θmax = 59º) c монокристалла размером 0,30×0,25×0,20 мм. После усредне-ния эквивалентных отражений получено 3135 независимых отражений (R(int) = 0,0744), которые использованы для расшифровки и уточнения структуры. Поглощение (μ = 3,978 мм–1) учитыва-лось с помощью программы SADABS [16], коэффициенты трансмиссии Tmax и Tmin соответствен-но равны 0,862; 0,600. Структура решена прямым методом, все неводородные атомы локализо-ваны в разностных синтезах электронной плотности и уточнены по F2

hkl в анизотропном при-ближении; атомы водорода в карболлильных ядрах локализованы на картах разностных синтезов электронной плотности и уточнены в изотропном приближении, атомы водорода метильных групп помещены в геометрически рассчитанные позиции и учтены при уточнении в модели «на-ездника» с U(H) = 1,5 U(C), где U(C) – эквивалентный температурный фактор атома углерода, с которым связан соответствующий атом Н. Окончательное значение факторов недостоверности: R1 = 0,0452 (вычислен по Fhkl для 1763 отражений с I > 2σ(I)), wR2 = 0,0944 (вычислен по F2

hkl для всех 3135 отражений), GOOF = 0,990, 183 уточняемых параметра.

71

Все расчеты проведены по комплексу программ SHELXTL PLUS 5 [17]. Координаты атомов, все длины связей и валентные углы, температурные параметры депони-

рованы в Кембриджском банке структурных данных (CCDC № 725643) и могут быть получены бесплатно через www.ccdc.cam.uk/conts/retrieving.html (или от CCDC, 12 Union Road, Cambridge CB2 1EZ; fax: +44 1223 335 033; или [email protected]).

Электрохимический синтез тетраметиламмонийной соли 7,4′-диметил-8,8′-дибром-бис(1,2-дикарболлил)железа(III) 4. Раствор 0,8 г (2,0 ммоль) соли Me4N+[3,3′-Fe(1,2-С2В9Н11)2]–и 0,6 г (5,8 ммоль) бромида натрия в 60 мл абс. метанола подвергали электролизу постоянным током плотностью 0,05 А/см2 в течение 7 ч при температуре 50 ºС. Количество пропущенного электри-чества составляло около 78 мФ. По окончании электролиза реакционную смесь упарили досуха, осадок промыли водой и высушили в вакуумном эксикаторе над CaCl2. Затем полученную смесь массой 0,38 г и 0,6 г (5,8 ммоль) бромида натрия растворили в 30 мл абс. метанола и подвергли электролизу постоянным током плотностью 0,033 А/см2 в течение 3 ч при температуре 50 ºС. Количество пропущенного электричества около 22 мФ. По окончании электролиза реакционную смесь упарили досуха, осадок промыли водой и перекристаллизовали из водного ацетона. Полу-чили 0,28 г (0,5 ммоль) соединения Me4N+[7,4′-Me2-8,8′-Br2-3,3′-Fe(1,2-С2В9Н9)2]–. Выход по ве-ществу 26 %.

ИК-спектр, ν, см–1: 3041 ср, 3025 с, 2606 с, 2557 ос, 2537 ос, 1480 ос, 1418 сл, 1197 ср, 1132 сл, 1098 с, 1072 ср, 1008 ср, 972 с, 948 с, 897 ср, 865 сл, 825 ср, 797 с, 762 сл, 733 с, 695 ср, 665 ср, 650 сл, 605 сл, 570 сл, 480 сл, 466 сл. Найдено, %: С 20,71; Н 6,09; Br 29,46; N 2,58. C10H36B18FeBr2N. Вычислено, %: С 20,68; Н 6,25; Br 27,52; N 2,41.


1. K o r y t a J., V a n y s e k P., B r e z i n a M. // J. Electroanal. Chem. 1977. Vol. 75, N 1. P. 211–228. 2. K o r y t a J. // Electrochim. Acta. 1979. Vol. 24, N 3. P. 293–300. 3. M a k r l i k E., V a n u r a P. // Talanta. 1985. Vol. 32, N 5. P. 423–429. 4. P o p o v A., T i m o f e e v a S., B o r i s o v a T. // Latv. Kim. Z. 1993. Vol. 3. P. 292–300. 5. R a i s J., S e l u c k y P. // Nucleon. 1992. Vol. 1, N 1. P. 17–20. 6. F o r w a r d J. M., M i n g o s D. M. P., P o w e l l A. V. // J. Organometal. Chem. 1994. Vol. 465, N 1–2. P. 251–258. 7. M c K i n n e y J. D., M c Q u i l l a n F. C., C h e n H. et al. // J. Organometal. Chem. 1997. Vol. 547, N 2. P. 253–262. 8. Y a n Y. - K., M i n g o s D. M. P., W i l l i a m s D. J., K u r m o o M. // J. Chem. Soc., Dalton Trans. 1995. N 19.

P. 3221–3230. 9. S i v a e v I. B., B r e g a d z e V. I. // Collect. Czech. Chem. Commun. 1999. Vol. 64, N 5. P. 783–805.

10. S i v a e v I. B., B r e g a d z e V. I. // J. Organometal. Chem. 2000. Vol. 614–615. P. 27–36. 11. Р у д а к о в Д. А., Ш и р о к и й В. Л., К н и ж н и к о в В. А. и др. // Докл. НАН Беларуси. 2004. Т. 48, № 5.

С. 59–61. 12. Т о м и л о в А. П., М а й р о н о в с к и й С. Г., Ф и о ш и н М. Я., С м и р н о в В. А. Электрохимия органиче-

ских соединений. М., 1968. – 592 с. 13. Органическая электрохимия: В 2 т. / Под ред. М. Байзера и Х. Лунд. М., 1988. Т. 2. – 1023 с. 14. Ш и р о к и й В. Л., Р у д а к о в Д. А., Б а ж а н о в А. В. и др. // Электрохимия. 2004. Т. 40, № 2. C. 242–245. 15. H a w t h o r n e M. F., Y o u n g D. C., A n d r e w s T. D. et al. // J. Amer. Chem. Soc. 1968. Vol. 90, N 4.

P. 879–896. 16. S h e l d r i c k G. M., SADABS, 1997, Bruker AXS Inc., Madison, WI-53719, USA. 17. S h e l d r i c k G. M. (1998). SHELXTL v. 5.10, Structure Determination Software Suite, Bruker AXS, Madison,

Wisconsin, USA.

RUDAKOV D. A., SHIROKII V. L., KNIZHNIKOV V. A., POTKIN V. I., MAIER N. A., STARIKOVA Z. A.

[email protected]

ELECTROCHEMICAL SYNTHESIS OF TETRAMETHYLAMMONIUM SALT 7,4´-DIMETHYL-8,8´-DIBROM-BIS(1,2-DICARBOLLYL)IRON(III)

Summary

Tetramethylammonium salt of 7,4´-dimethyl-8,8´-dibrom-bis(1,2-dicarbollyl)iron(III) was obtained with a preparative yield by the electrochemical method. The structure of substances was confirmed by the X-ray analysis.

71

Все расчеты проведены по комплексу программ SHELXTL PLUS 5 [17]. Координаты атомов, все длины связей и валентные углы, температурные параметры депони-

рованы в Кембриджском банке структурных данных (CCDC № 725643) и могут быть получены бесплатно через www.ccdc.cam.uk/conts/retrieving.html (или от CCDC, 12 Union Road, Cambridge CB2 1EZ; fax: +44 1223 335 033; или [email protected]).

Электрохимический синтез тетраметиламмонийной соли 7,4′-диметил-8,8′-дибром-бис(1,2-дикарболлил)железа(III) 4. Раствор 0,8 г (2,0 ммоль) соли Me4N+[3,3′-Fe(1,2-С2В9Н11)2]–и 0,6 г (5,8 ммоль) бромида натрия в 60 мл абс. метанола подвергали электролизу постоянным током плотностью 0,05 А/см2 в течение 7 ч при температуре 50 ºС. Количество пропущенного электри-чества составляло около 78 мФ. По окончании электролиза реакционную смесь упарили досуха, осадок промыли водой и высушили в вакуумном эксикаторе над CaCl2. Затем полученную смесь массой 0,38 г и 0,6 г (5,8 ммоль) бромида натрия растворили в 30 мл абс. метанола и подвергли электролизу постоянным током плотностью 0,033 А/см2 в течение 3 ч при температуре 50 ºС. Количество пропущенного электричества около 22 мФ. По окончании электролиза реакционную смесь упарили досуха, осадок промыли водой и перекристаллизовали из водного ацетона. Полу-чили 0,28 г (0,5 ммоль) соединения Me4N+[7,4′-Me2-8,8′-Br2-3,3′-Fe(1,2-С2В9Н9)2]–. Выход по ве-ществу 26 %.

ИК-спектр, ν, см–1: 3041 ср, 3025 с, 2606 с, 2557 ос, 2537 ос, 1480 ос, 1418 сл, 1197 ср, 1132 сл, 1098 с, 1072 ср, 1008 ср, 972 с, 948 с, 897 ср, 865 сл, 825 ср, 797 с, 762 сл, 733 с, 695 ср, 665 ср, 650 сл, 605 сл, 570 сл, 480 сл, 466 сл. Найдено, %: С 20,71; Н 6,09; Br 29,46; N 2,58. C10H36B18FeBr2N. Вычислено, %: С 20,68; Н 6,25; Br 27,52; N 2,41.


1. K o r y t a J., V a n y s e k P., B r e z i n a M. // J. Electroanal. Chem. 1977. Vol. 75, N 1. P. 211–228. 2. K o r y t a J. // Electrochim. Acta. 1979. Vol. 24, N 3. P. 293–300. 3. M a k r l i k E., V a n u r a P. // Talanta. 1985. Vol. 32, N 5. P. 423–429. 4. P o p o v A., T i m o f e e v a S., B o r i s o v a T. // Latv. Kim. Z. 1993. Vol. 3. P. 292–300. 5. R a i s J., S e l u c k y P. // Nucleon. 1992. Vol. 1, N 1. P. 17–20. 6. F o r w a r d J. M., M i n g o s D. M. P., P o w e l l A. V. // J. Organometal. Chem. 1994. Vol. 465, N 1–2. P. 251–258. 7. M c K i n n e y J. D., M c Q u i l l a n F. C., C h e n H. et al. // J. Organometal. Chem. 1997. Vol. 547, N 2. P. 253–262. 8. Y a n Y. - K., M i n g o s D. M. P., W i l l i a m s D. J., K u r m o o M. // J. Chem. Soc., Dalton Trans. 1995. N 19.

P. 3221–3230. 9. S i v a e v I. B., B r e g a d z e V. I. // Collect. Czech. Chem. Commun. 1999. Vol. 64, N 5. P. 783–805.

10. S i v a e v I. B., B r e g a d z e V. I. // J. Organometal. Chem. 2000. Vol. 614–615. P. 27–36. 11. Р у д а к о в Д. А., Ш и р о к и й В. Л., К н и ж н и к о в В. А. и др. // Докл. НАН Беларуси. 2004. Т. 48, № 5.

С. 59–61. 12. Т о м и л о в А. П., М а й р о н о в с к и й С. Г., Ф и о ш и н М. Я., С м и р н о в В. А. Электрохимия органиче-

ских соединений. М., 1968. – 592 с. 13. Органическая электрохимия: В 2 т. / Под ред. М. Байзера и Х. Лунд. М., 1988. Т. 2. – 1023 с. 14. Ш и р о к и й В. Л., Р у д а к о в Д. А., Б а ж а н о в А. В. и др. // Электрохимия. 2004. Т. 40, № 2. C. 242–245. 15. H a w t h o r n e M. F., Y o u n g D. C., A n d r e w s T. D. et al. // J. Amer. Chem. Soc. 1968. Vol. 90, N 4.

P. 879–896. 16. S h e l d r i c k G. M., SADABS, 1997, Bruker AXS Inc., Madison, WI-53719, USA. 17. S h e l d r i c k G. M. (1998). SHELXTL v. 5.10, Structure Determination Software Suite, Bruker AXS, Madison,

Wisconsin, USA.

RUDAKOV D. A., SHIROKII V. L., KNIZHNIKOV V. A., POTKIN V. I., MAIER N. A., STARIKOVA Z. A.

[email protected]

ELECTROCHEMICAL SYNTHESIS OF TETRAMETHYLAMMONIUM SALT 7,4´-DIMETHYL-8,8´-DIBROM-BIS(1,2-DICARBOLLYL)IRON(III)

Summary

Tetramethylammonium salt of 7,4´-dimethyl-8,8´-dibrom-bis(1,2-dicarbollyl)iron(III) was obtained with a preparative yield by the electrochemical method. The structure of substances was confirmed by the X-ray analysis.

72



УДК 541.182

Л. В. ДИХТИЕВСКАЯ, Н. А. МАКАРЕВИЧ, член-корреспондент Ф. Ф. МОЖЕЙКО

ВЛИЯНИЕ ПОВЕРХНОСТНО-АКТИВНЫХ ВЕЩЕСТВ И НЕОРГАНИЧЕСКИХ ЭЛЕКТРОЛИТОВ НА МЕЖФАЗНОЕ НАТЯЖЕНИЕ

В СИСТЕМЕ МАСЛО/ВОДА

Институт общей и неорганической химии НАН Беларуси, Минск Поступило 27.05.2009

Введение. Устойчивость эмульсий, которые представляют собой микрогетерогенные системы, состоящие из двух или более несмешивающихся жидкостей, определяется избытком свободной энергии на межфазной поверхности. Поэтому необходимым условием получения эмульсий лю-бого типа является снижение межфазного натяжения между жидкостями, входящими в эмульси-онную систему. Для стабилизации эмульсий чаще всего применяются поверхностно-активные вещества (ПАВ) различных классов, способные эффективно снижать межфазное натяжение, об-разуя прочный адсорбционный слой, представляющий собой структурно-механический барьер, препятствующий коалесценции капелек дисперсной фазы [1–3]. Для практических целей боль-шое значение имеет установление взаимосвязи межфазного σм/в (масло/вода) и поверхностного σж/г (жидкость/газ) натяжений растворов ПАВ.

Цель работы – с использованием метода отрыва кольца проведены сравнительные измерения поверхностного натяжения на границе водный и водно-солевой раствор ПАВ/воздух и межфаз- ного натяжения на границе раздела водный и водно-солевой раствор ПАВ/масло в присутствии различных ПАВ и электролитов. Исследованы модельные и технические эмульсионные системы. Эмульгаторами служили типичные катионные (соли алифатических аминов) и анионные (алкил-сульфаты и алкилкарбонаты натрия) ПАВ; масляной фазой – гексан, октан, декан, додекан, рапсо-вое и оливковое масла; электролитами – хлориды натрия, кальция, алюминия, карбонат натрия.

Результаты и их обсуждение. Установлено, что в отсутствие эмульгатора величина меж- фазного натяжения на границе вода/углеводород слабо зависит от длины цепи углеводорода. В присутствии ПАВ величина межфазного натяжения возрастает с увеличением числа атомов углерода в молекуле углеводорода и уменьшается с повышением концентрации и длины гидро-фобного радикала ПАВ (рис. 1, а). Для фиксированной длины углеводородного ПАВ c разными полярными группами межфазное натяжение уменьшается в ряду: -СООNa, -NH3Cl, -SO4Na (рис. 1, б), что определяется значениями их критической концентрации мицеллообразования (Ск) и поверхностной активности (Gm). Так, для С12 в указанном ряду Ск (моль/л) снижается и составляет 2,3·10–2, 1,3·10–2, 8,0·10–3, а поверхностная активность (Дж·м/кмоль) возрастает и со- ставляет 1,8, 3,0 и 4,3 соответственно [4].

На рис. 1 видно, что как на изотермах поверхностного натяжения, так и на изотермах меж- фазного натяжения как в водных, так и в солевых растворах четко выражены характеристиче-ские концентрационные точки. Одна из них Сн связана с насыщением адсорбционного слоя и отражает концентрацию ПАВ в мембране. Эта концентрация определяется графически по изо-термам σ(lnC) как точка перехода криволинейного участка изотермы в прямолинейный, т. е. это концентрация, при которой производная dσ/dlnC достигает максимального значения. Вторая концентрационная точка Ск связана с мицеллобразованием и отражает изменения ПАВ в объеме раствора. Это концентрация, при которой достигается минимальное σж/г и σм/в.

72



УДК 541.182

Л. В. ДИХТИЕВСКАЯ, Н. А. МАКАРЕВИЧ, член-корреспондент Ф. Ф. МОЖЕЙКО

ВЛИЯНИЕ ПОВЕРХНОСТНО-АКТИВНЫХ ВЕЩЕСТВ И НЕОРГАНИЧЕСКИХ ЭЛЕКТРОЛИТОВ НА МЕЖФАЗНОЕ НАТЯЖЕНИЕ

В СИСТЕМЕ МАСЛО/ВОДА

Институт общей и неорганической химии НАН Беларуси, Минск Поступило 27.05.2009

Введение. Устойчивость эмульсий, которые представляют собой микрогетерогенные системы, состоящие из двух или более несмешивающихся жидкостей, определяется избытком свободной энергии на межфазной поверхности. Поэтому необходимым условием получения эмульсий лю-бого типа является снижение межфазного натяжения между жидкостями, входящими в эмульси-онную систему. Для стабилизации эмульсий чаще всего применяются поверхностно-активные вещества (ПАВ) различных классов, способные эффективно снижать межфазное натяжение, об-разуя прочный адсорбционный слой, представляющий собой структурно-механический барьер, препятствующий коалесценции капелек дисперсной фазы [1–3]. Для практических целей боль-шое значение имеет установление взаимосвязи межфазного σм/в (масло/вода) и поверхностного σж/г (жидкость/газ) натяжений растворов ПАВ.

Цель работы – с использованием метода отрыва кольца проведены сравнительные измерения поверхностного натяжения на границе водный и водно-солевой раствор ПАВ/воздух и межфаз- ного натяжения на границе раздела водный и водно-солевой раствор ПАВ/масло в присутствии различных ПАВ и электролитов. Исследованы модельные и технические эмульсионные системы. Эмульгаторами служили типичные катионные (соли алифатических аминов) и анионные (алкил-сульфаты и алкилкарбонаты натрия) ПАВ; масляной фазой – гексан, октан, декан, додекан, рапсо-вое и оливковое масла; электролитами – хлориды натрия, кальция, алюминия, карбонат натрия.

Результаты и их обсуждение. Установлено, что в отсутствие эмульгатора величина меж- фазного натяжения на границе вода/углеводород слабо зависит от длины цепи углеводорода. В присутствии ПАВ величина межфазного натяжения возрастает с увеличением числа атомов углерода в молекуле углеводорода и уменьшается с повышением концентрации и длины гидро-фобного радикала ПАВ (рис. 1, а). Для фиксированной длины углеводородного ПАВ c разными полярными группами межфазное натяжение уменьшается в ряду: -СООNa, -NH3Cl, -SO4Na (рис. 1, б), что определяется значениями их критической концентрации мицеллообразования (Ск) и поверхностной активности (Gm). Так, для С12 в указанном ряду Ск (моль/л) снижается и составляет 2,3·10–2, 1,3·10–2, 8,0·10–3, а поверхностная активность (Дж·м/кмоль) возрастает и со- ставляет 1,8, 3,0 и 4,3 соответственно [4].

На рис. 1 видно, что как на изотермах поверхностного натяжения, так и на изотермах меж- фазного натяжения как в водных, так и в солевых растворах четко выражены характеристиче-ские концентрационные точки. Одна из них Сн связана с насыщением адсорбционного слоя и отражает концентрацию ПАВ в мембране. Эта концентрация определяется графически по изо-термам σ(lnC) как точка перехода криволинейного участка изотермы в прямолинейный, т. е. это концентрация, при которой производная dσ/dlnC достигает максимального значения. Вторая концентрационная точка Ск связана с мицеллобразованием и отражает изменения ПАВ в объеме раствора. Это концентрация, при которой достигается минимальное σж/г и σм/в.

73

Рис. 1. Изотермы межфазного натяжения на границе растворов: а – ацетата тетрадециламмония c гексаном (1), октаном (2), деканом (3), додеканом (4), воздухом (5); б – лаурата натрия (1), ацетата додециламина (2), додецилсульфата натрия (3) с додеканом

Для того чтобы прояснить роль указанных характеристик в механизме образования и устой-чивости микроэмульсий, построена зависимость σм/в–σж/г для исследованного ряда солей аминов по данным [5, рис. 1]. Рис. 2, а иллюстрирует взаимосвязь поверхностного и межфазного натя-жения для растворов ацетатов алкиламинов. Аналогичные зависимости получены и для анионо-активных ПАВ – алкилсульфатов натрия. При ближайшем рассмотрении найденной зависимости четко отмечаются изломы в точках, соответствующих в области разбавленных растворов кон-центрации насыщения адсорбционного слоя или мембраны, а в области высоких концентраций – концентрации ассоциации в объеме раствора.

Рис. 2. Зависимость: а – межфазного (σм/в) и поверхностного (σж/г) натяжений уксуснокислых аминов: C12Н25NH2⋅CH3CООН (1), C14Н29NH2⋅CH3CООН (2), C16Н33NH2⋅CH3CООН (3), C18Н37NH2⋅CH3CООН (4);

б – константы К = σм/в/ σж/г от длины цепи уксуснокислых аминов в области концентраций Со–Сн, (1), Сн–Ск (2)

73

Рис. 1. Изотермы межфазного натяжения на границе растворов: а – ацетата тетрадециламмония c гексаном (1), октаном (2), деканом (3), додеканом (4), воздухом (5); б – лаурата натрия (1), ацетата додециламина (2), додецилсульфата натрия (3) с додеканом

Для того чтобы прояснить роль указанных характеристик в механизме образования и устой-чивости микроэмульсий, построена зависимость σм/в–σж/г для исследованного ряда солей аминов по данным [5, рис. 1]. Рис. 2, а иллюстрирует взаимосвязь поверхностного и межфазного натя-жения для растворов ацетатов алкиламинов. Аналогичные зависимости получены и для анионо-активных ПАВ – алкилсульфатов натрия. При ближайшем рассмотрении найденной зависимости четко отмечаются изломы в точках, соответствующих в области разбавленных растворов кон-центрации насыщения адсорбционного слоя или мембраны, а в области высоких концентраций – концентрации ассоциации в объеме раствора.

Рис. 2. Зависимость: а – межфазного (σм/в) и поверхностного (σж/г) натяжений уксуснокислых аминов: C12Н25NH2⋅CH3CООН (1), C14Н29NH2⋅CH3CООН (2), C16Н33NH2⋅CH3CООН (3), C18Н37NH2⋅CH3CООН (4);

б – константы К = σм/в/ σж/г от длины цепи уксуснокислых аминов в области концентраций Со–Сн, (1), Сн–Ск (2)

74

Интерес представляло рассмотрение зависимости межфазного натяжения от этих концентра-ций для гомологических рядов ПАВ. Тем более что эти концентрации могут быть положены в основу расчета свободной энергии адсорбции и мицеллообразования ПАВ [6]. Оказалось, что зави- симость межфазного натяжения от энергии адсорбции и мицеллообразования четко укладывается в линейную форму. Кроме того, нами были учтены наклоны зависимостей, представленных на рис. 2, а, как константы распределения К = σм/в/σж/г для всех членов гомологического ряда cолей аминов (рис. 2, б). И здесь зависимость К(n) носит линейный характер.

Исходя из зависимостей, представленных на рис. 2, следует, что между межфазным и по-верхностным натяжением, их соотношением (К), а также концентрациями, характеризующими поведение ПАВ в мембране (Сн) и в объеме раствора (Ск), существует тесная связь. Это наводит на мысль о том, что любая из рассмотренных характеристик может служить критерием возмож-ности получения эмульсии, а также критерием ее кинетической и агрегативной устойчивости.

Обобщая полученные экспериментальные данные, можно заключить, что сила дисперсион- ных взаимодействий (система масло/вода) существенно не зависит от длины цепи углеводорода масляной фазы. При введении в эмульсионную систему дифильных молекул ПАВ величина дис-персионных взаимодействий определяется как длиной углеводородного гидрофобного радикала, насыщенностью в нем углеводородных связей, полярной группой ПАВ, так и длиной углеводо-рода масляной фазы.

К стабилизирующим агентам и регуляторам свойств эмульсий относят неорганические элек-тролиты. Выявлено, что для каждого электролита существует свой концентрационный порог, обеспечивающий агрегативную устойчивость эмульсионной системы. На рис. 3 представлена зависимость межфазного натяжения растворов додецилсульфата натрия и олеата натрия на гра-нице с гексаном от содержания хлоридов натрия, кальция и алюминия. Как видно, введение не-органических солей в раствор ПАВ способствует достаточно резкому снижению межфазного натяжения. При использовании разбавленных растворов ПАВ, которые более устойчивы к выса-ливающему действию электролита, введение неорганической соли обусловливает снижение σм/в в большей степени, чем в случае более концентрированных растворов, характеризующихся низ-ким порогом коагуляции. Этот факт может быть использован для сокращения расхода эмульга-тора при получении эмульсий.

Представленные данные иллюстрируют различный характер действия электролитов на алкил- сульфаты и соли карбоновых кислот. Снижение межфазного натяжения раствора додецилсуль-фата натрия на границе с масляной фазой под действием электролита ограничивается величиной

Рис. 3. Влияние концентрации электролита на межфазное натяжение на границе растворов: а – додецилсульфата натрия; б – олеата натрия с гексаном: 1, 5 – AlCl3; 2, 6 – CaCl2; 3, 4, 7 – NaCl; концентрация ПАВ в водной фазе (моль/л): 1–3 – 1·10–3; 4 – 1·10–2; 5–7 – 6,6·10–4

74

Интерес представляло рассмотрение зависимости межфазного натяжения от этих концентра-ций для гомологических рядов ПАВ. Тем более что эти концентрации могут быть положены в основу расчета свободной энергии адсорбции и мицеллообразования ПАВ [6]. Оказалось, что зави- симость межфазного натяжения от энергии адсорбции и мицеллообразования четко укладывается в линейную форму. Кроме того, нами были учтены наклоны зависимостей, представленных на рис. 2, а, как константы распределения К = σм/в/σж/г для всех членов гомологического ряда cолей аминов (рис. 2, б). И здесь зависимость К(n) носит линейный характер.

Исходя из зависимостей, представленных на рис. 2, следует, что между межфазным и по-верхностным натяжением, их соотношением (К), а также концентрациями, характеризующими поведение ПАВ в мембране (Сн) и в объеме раствора (Ск), существует тесная связь. Это наводит на мысль о том, что любая из рассмотренных характеристик может служить критерием возмож-ности получения эмульсии, а также критерием ее кинетической и агрегативной устойчивости.

Обобщая полученные экспериментальные данные, можно заключить, что сила дисперсион- ных взаимодействий (система масло/вода) существенно не зависит от длины цепи углеводорода масляной фазы. При введении в эмульсионную систему дифильных молекул ПАВ величина дис-персионных взаимодействий определяется как длиной углеводородного гидрофобного радикала, насыщенностью в нем углеводородных связей, полярной группой ПАВ, так и длиной углеводо-рода масляной фазы.

К стабилизирующим агентам и регуляторам свойств эмульсий относят неорганические элек-тролиты. Выявлено, что для каждого электролита существует свой концентрационный порог, обеспечивающий агрегативную устойчивость эмульсионной системы. На рис. 3 представлена зависимость межфазного натяжения растворов додецилсульфата натрия и олеата натрия на гра-нице с гексаном от содержания хлоридов натрия, кальция и алюминия. Как видно, введение не-органических солей в раствор ПАВ способствует достаточно резкому снижению межфазного натяжения. При использовании разбавленных растворов ПАВ, которые более устойчивы к выса-ливающему действию электролита, введение неорганической соли обусловливает снижение σм/в в большей степени, чем в случае более концентрированных растворов, характеризующихся низ-ким порогом коагуляции. Этот факт может быть использован для сокращения расхода эмульга-тора при получении эмульсий.

Представленные данные иллюстрируют различный характер действия электролитов на алкил- сульфаты и соли карбоновых кислот. Снижение межфазного натяжения раствора додецилсуль-фата натрия на границе с масляной фазой под действием электролита ограничивается величиной

Рис. 3. Влияние концентрации электролита на межфазное натяжение на границе растворов: а – додецилсульфата натрия; б – олеата натрия с гексаном: 1, 5 – AlCl3; 2, 6 – CaCl2; 3, 4, 7 – NaCl; концентрация ПАВ в водной фазе (моль/л): 1–3 – 1·10–3; 4 – 1·10–2; 5–7 – 6,6·10–4

75

концентрации соли, соответствующей порогу коагуляции, далее происходит разрушение систе-мы, т. е. наблюдается высаливание ПАВ из водной фазы. В случае олеата натрия изменение межфазного натяжения в присутствии электролита проходит через ярко выраженный минимум, что, вероятно, связано с явлением скрытой коагуляции, сопровождающейся нарушением целост-ности адсорбционного слоя ПАВ на границе масло/вода за счет проникновения в него коионов, т. е. ионов, одноименно заряженных с поверхностно-активным ионом [7]. Концентрация элек-тролита, обеспечивающая максимальное снижение межфазного натяжения, зависит от валентности катиона и является наибольшей для одновалентного катиона.

Таким образом, введением в эмульсионную систему электролитов различной природы можно регулировать величину межфазного натяжения, являющегося одной из важнейших характери-стик, определяющих процесс эмульгирования.

Зависимости, характерные для модельных эмульсионных систем, наблюдаются и для техни-ческих эмульсий. Технические масла содержат в своем составе некоторое количество разнооб-разных ПАВ. Как видно на рис. 4, а, введение в водную фазу электролитов способствует суще-ственному снижению межфазного натяжения на границе масло/вода. Наиболее эффективно дей-ствие щелочных электролитов. Так, при использовании в качестве масляной фазы рапсового масла введение в эмульсионную систему карбоната натрия вызывает резкое падение межфазного натяжения до значения, близкого к нулевому (~ 0,3 мДж/м2), что указывает на возможность полу-чения устойчивой эмульсии простой комбинацией технического рапсового масла и щелочного электролита. Это безусловно связано с процессом омыления растительного масла в щелочной среде.

Исследование в качестве стабилизаторов эмульсий на основе растительных масел ПАВ, в частности, додецилсульфата натрия показало (рис. 4, б), что межфазное натяжение на границе его растворов с оливковым и рапсовым маслами резко снижается по мере увеличения содержания ПАВ в водной фазе. В области разбавленных растворов стабилизатора межфазное натяжение на их границе с рапсовым маслом имеет значительно более низкие показатели по сравнению с олив-ковым маслом, что также можно связать с присутствием в рапсовом масле примесей ПАВ. Еще большего снижения межфазного натяжения на границе растворов додецилсульфата натрия с рап- совым маслом можно достичь путем введения в раствор эмульгатора в качестве со-ПАВ капро-новой кислоты (рис. 4, б). Изменение состава дисперсионной среды дает возможность регулиро-вать величину межфазного натяжения на границе с маслами различного типа, что обеспечивает получение эмульсий с определенными свойствами.

Рис. 4. Изотермы межфазного натяжения растворов: а – карбоната натрия (1), хлорида натрия (2) на границе с рапсо-вым маслом; б – додецилсульфата натрия (1, 2) и его смесей с капроновой кислотой (3) на границе с оливковым (1) и рапсовым маслом (2, 3)

75

концентрации соли, соответствующей порогу коагуляции, далее происходит разрушение систе-мы, т. е. наблюдается высаливание ПАВ из водной фазы. В случае олеата натрия изменение межфазного натяжения в присутствии электролита проходит через ярко выраженный минимум, что, вероятно, связано с явлением скрытой коагуляции, сопровождающейся нарушением целост-ности адсорбционного слоя ПАВ на границе масло/вода за счет проникновения в него коионов, т. е. ионов, одноименно заряженных с поверхностно-активным ионом [7]. Концентрация элек-тролита, обеспечивающая максимальное снижение межфазного натяжения, зависит от валентности катиона и является наибольшей для одновалентного катиона.

Таким образом, введением в эмульсионную систему электролитов различной природы можно регулировать величину межфазного натяжения, являющегося одной из важнейших характери-стик, определяющих процесс эмульгирования.

Зависимости, характерные для модельных эмульсионных систем, наблюдаются и для техни-ческих эмульсий. Технические масла содержат в своем составе некоторое количество разнооб-разных ПАВ. Как видно на рис. 4, а, введение в водную фазу электролитов способствует суще-ственному снижению межфазного натяжения на границе масло/вода. Наиболее эффективно дей-ствие щелочных электролитов. Так, при использовании в качестве масляной фазы рапсового масла введение в эмульсионную систему карбоната натрия вызывает резкое падение межфазного натяжения до значения, близкого к нулевому (~ 0,3 мДж/м2), что указывает на возможность полу-чения устойчивой эмульсии простой комбинацией технического рапсового масла и щелочного электролита. Это безусловно связано с процессом омыления растительного масла в щелочной среде.

Исследование в качестве стабилизаторов эмульсий на основе растительных масел ПАВ, в частности, додецилсульфата натрия показало (рис. 4, б), что межфазное натяжение на границе его растворов с оливковым и рапсовым маслами резко снижается по мере увеличения содержания ПАВ в водной фазе. В области разбавленных растворов стабилизатора межфазное натяжение на их границе с рапсовым маслом имеет значительно более низкие показатели по сравнению с олив-ковым маслом, что также можно связать с присутствием в рапсовом масле примесей ПАВ. Еще большего снижения межфазного натяжения на границе растворов додецилсульфата натрия с рап- совым маслом можно достичь путем введения в раствор эмульгатора в качестве со-ПАВ капро-новой кислоты (рис. 4, б). Изменение состава дисперсионной среды дает возможность регулиро-вать величину межфазного натяжения на границе с маслами различного типа, что обеспечивает получение эмульсий с определенными свойствами.

Рис. 4. Изотермы межфазного натяжения растворов: а – карбоната натрия (1), хлорида натрия (2) на границе с рапсо-вым маслом; б – додецилсульфата натрия (1, 2) и его смесей с капроновой кислотой (3) на границе с оливковым (1) и рапсовым маслом (2, 3)

76

Заключение. Таким образом, величину межфазного натяжения, являющегося одной из важ-нейших характеристик, определяющих процесс эмульгирования, можно регулировать путем варьирования таких факторов, как природа ПАВ и масляной фазы, строение их молекул, введе-ние в эмульсионную систему электролитов различной природы. Полученные результаты позво-ляют определить основные пути создания эмульсии с заданными свойствами, контролировать время их образования и жизни.


1. F r i b e r g S. E., B o t h o r e l P. Microemulsions: Structure and Dynamics. Florida, 1988. 2. S h i n o d a K., K u n i e d a H. // Microemulsions Theory and Practice / Ed. L. M. Prince. N. Y., 1979. P. 153. 3. Эмульсии / Под ред. Ф. Шермана. Л., 1972. 4. А б р а м з о н А. А., Б о ч а р о в В. В., Г а е в о й Г. М. и др. Поверхностно-активные вещества: Справ. / Под ред.

А. А. Абрамзона и Г. М. Гаевого. Л., 1979. 5. Д и х т и е в с к а я Л. В., М а р к и н А. Д., Ш е в ч у к В. В., К р у т ь к о Н. П. // Докл. НАН Беларуси. 2004.

Т. 48, № 6. С. 53–56. 6. Щ у к и н Е. Д., П е р ц о в А. В., А м е л и н а Е. А. Коллоидная химия. М., 1982. 7. Д и х т и е в с к а я Л. В., М о ж е й к о Ф. Ф. // Докл. НАН Беларуси. 1999. Т. 43, № 5. С. 58–61.

DIKHTIEVSKAYA L. V., MAKAREVICH N. A., MOZHEIKO F. F.

[email protected]

INFLUENCE OF SURFACTANTS AND INORGANIC ELECTROLYTES ON INTERFACIAL TENSION IN THE OIL/WATER SYSTEM

Summary

The interfacial tension in the oil/water system in the presence of ionic surfactants and inorganic electrolytes has been investigated. The peculiarity of the influence of the nature of surfactants, oil phase and the structure of their molecules and electrolytes with ions of different radius, valency, and hydration were determined. The criteria and conditions of formation of model emulsions based on paraffin hydrocarbons and technical emulsions based on vegetable oils were established.

76

Заключение. Таким образом, величину межфазного натяжения, являющегося одной из важ-нейших характеристик, определяющих процесс эмульгирования, можно регулировать путем варьирования таких факторов, как природа ПАВ и масляной фазы, строение их молекул, введе-ние в эмульсионную систему электролитов различной природы. Полученные результаты позво-ляют определить основные пути создания эмульсии с заданными свойствами, контролировать время их образования и жизни.


1. F r i b e r g S. E., B o t h o r e l P. Microemulsions: Structure and Dynamics. Florida, 1988. 2. S h i n o d a K., K u n i e d a H. // Microemulsions Theory and Practice / Ed. L. M. Prince. N. Y., 1979. P. 153. 3. Эмульсии / Под ред. Ф. Шермана. Л., 1972. 4. А б р а м з о н А. А., Б о ч а р о в В. В., Г а е в о й Г. М. и др. Поверхностно-активные вещества: Справ. / Под ред.

А. А. Абрамзона и Г. М. Гаевого. Л., 1979. 5. Д и х т и е в с к а я Л. В., М а р к и н А. Д., Ш е в ч у к В. В., К р у т ь к о Н. П. // Докл. НАН Беларуси. 2004.

Т. 48, № 6. С. 53–56. 6. Щ у к и н Е. Д., П е р ц о в А. В., А м е л и н а Е. А. Коллоидная химия. М., 1982. 7. Д и х т и е в с к а я Л. В., М о ж е й к о Ф. Ф. // Докл. НАН Беларуси. 1999. Т. 43, № 5. С. 58–61.

DIKHTIEVSKAYA L. V., MAKAREVICH N. A., MOZHEIKO F. F.

[email protected]

INFLUENCE OF SURFACTANTS AND INORGANIC ELECTROLYTES ON INTERFACIAL TENSION IN THE OIL/WATER SYSTEM

Summary

The interfacial tension in the oil/water system in the presence of ionic surfactants and inorganic electrolytes has been investigated. The peculiarity of the influence of the nature of surfactants, oil phase and the structure of their molecules and electrolytes with ions of different radius, valency, and hydration were determined. The criteria and conditions of formation of model emulsions based on paraffin hydrocarbons and technical emulsions based on vegetable oils were established.

77



УДК 577.113+616.717.9-002.5:619:636.2

А. В. ВАСИЛЕВСКАЯ, Г. В. СЕРГЕЕВ, А. А. ГИЛЕП, член-корреспондент С. А. УСАНОВ

СПЕЦИФИЧЕСКИЕ ПЦР-МИШЕНИ ДЛЯ ИДЕНТИФИКАЦИИ МИКОБАКТЕРИЙ КОМПЛЕКСА MYCOBACTERIUM TUBERCULOSIS

Институт биоорганической химии НАН Беларуси, Минск Поступило 01.06.2009

Введение. Туберкулез – хроническая бактериальная инфекция. В мире туберкулезом еже- годно заболевают 8 млн чел., из них 2 млн умирают от его осложнений (100 тыс. – дети) [1–5]. Некоторые исследователи считают, что 1/3 населения планеты – носители туберкулезной инфек-ции, но только у людей с ослабленной иммунной системой болезнь переходит в активную форму [6–8].

Род Mycobacterium насчитывает несколько десятков видов. Виды M. bovis, M. tuberculosis, M. africanum, M. microti, M. bovis BCG, M. caprae и M. canettii объединяют в Mycobacterium tuberculosis комплекс, представители которого характеризуются высокой гомологией геномов, но различны по патогенности, географическому распространению, физиологическим особенно-стям, эпидемиологии и организму-хозяину [9; 10]. Туберкулез у человека вызывают M. tuberculosis и M. bovis [11; 12]. Поэтому при диагностике важным является определение именно этих видов микобактерий. Стоит также отметить, что для профилактики заболевания широко приме- няется противотуберкулезная вакцина, разработанная на основе авирулентного штамма M. bovis– M. bovis BCG (Bacillus Calmette-Guerin) [13]. Поэтому также необходимо дифференцировать M. bovis BCG, что позволит разделить вакцинированных и заболевших людей.

Традиционные методы детекции туберкулеза (обычная и люминесцентная микроскопия, культуральные методы) обладают низкой чувствительностью и требуют длительного времени для получения результата [14; 15]. Поэтому актуальной является разработка и применение метода ускоренной диагностики туберкулеза, такого как ПЦР-диагностика. Преимуществом ПЦР является ее высокая чувствительность, специфичность и быстрота получения результатов исследования. Кроме того, ПЦР можно применять для анализа различных видов биологического материала, в то время как традиционные методы не дают такой возможности и некоторые кли-нические формы туберкулеза сложно подтвердить бактериологическими методами [16; 17]. В основе метода ПЦР, как инструмента лабораторной диагностики инфекционных заболеваний лежит обнаружение фрагмента ДНК возбудителя, специфичного только для данного микроорга-низма, что позволяет сделать вывод об отсутствии или наличии заболевания [18].

Путем выравнивания геномных последовательностей представителей микобактерий нами были определены три группы мишеней для детекции комплекса Mycobacterium tuberculosis. Пер-вая группа: участок последовательности IS-элементов, встречающийся с различной степенью копийности среди видов Mycobacterium [18–24]. Вторая группа – регион дифференциации RD [9; 25; 26]. И третья – последовательности, кодирующие консервативные для комплекса области: белок mpt70 (MAJOR SECRETED IMMUNOGENIC PROTEIN) и белок Rv0577 (функция не из-вестна) [9; 27; 28]. Все три группы мишеней позволяют определять комплекс Mycobacterium tuberculosis с высокой специфичностью и дифференцировать его от других представителей ми-кобактерий.

Материалы и методы исследования. В настоящей работе использовались следующие реак-тивы: гуанидин тиоционат, Triton X-100, трис(гидроксиметил)аминометан (трис) и этилендиа-минтетраацетат натрия (Na-ЭДТА) (Sigma, США); агароза и дитиотреитол (Gibco BRL, США);

77



УДК 577.113+616.717.9-002.5:619:636.2

А. В. ВАСИЛЕВСКАЯ, Г. В. СЕРГЕЕВ, А. А. ГИЛЕП, член-корреспондент С. А. УСАНОВ

СПЕЦИФИЧЕСКИЕ ПЦР-МИШЕНИ ДЛЯ ИДЕНТИФИКАЦИИ МИКОБАКТЕРИЙ КОМПЛЕКСА MYCOBACTERIUM TUBERCULOSIS


Введение. Туберкулез – хроническая бактериальная инфекция. В мире туберкулезом еже- годно заболевают 8 млн чел., из них 2 млн умирают от его осложнений (100 тыс. – дети) [1–5]. Некоторые исследователи считают, что 1/3 населения планеты – носители туберкулезной инфек-ции, но только у людей с ослабленной иммунной системой болезнь переходит в активную форму [6–8].

Род Mycobacterium насчитывает несколько десятков видов. Виды M. bovis, M. tuberculosis, M. africanum, M. microti, M. bovis BCG, M. caprae и M. canettii объединяют в Mycobacterium tuberculosis комплекс, представители которого характеризуются высокой гомологией геномов, но различны по патогенности, географическому распространению, физиологическим особенно-стям, эпидемиологии и организму-хозяину [9; 10]. Туберкулез у человека вызывают M. tuberculosis и M. bovis [11; 12]. Поэтому при диагностике важным является определение именно этих видов микобактерий. Стоит также отметить, что для профилактики заболевания широко приме- няется противотуберкулезная вакцина, разработанная на основе авирулентного штамма M. bovis– M. bovis BCG (Bacillus Calmette-Guerin) [13]. Поэтому также необходимо дифференцировать M. bovis BCG, что позволит разделить вакцинированных и заболевших людей.

Традиционные методы детекции туберкулеза (обычная и люминесцентная микроскопия, культуральные методы) обладают низкой чувствительностью и требуют длительного времени для получения результата [14; 15]. Поэтому актуальной является разработка и применение метода ускоренной диагностики туберкулеза, такого как ПЦР-диагностика. Преимуществом ПЦР является ее высокая чувствительность, специфичность и быстрота получения результатов исследования. Кроме того, ПЦР можно применять для анализа различных видов биологического материала, в то время как традиционные методы не дают такой возможности и некоторые кли-нические формы туберкулеза сложно подтвердить бактериологическими методами [16; 17]. В основе метода ПЦР, как инструмента лабораторной диагностики инфекционных заболеваний лежит обнаружение фрагмента ДНК возбудителя, специфичного только для данного микроорга-низма, что позволяет сделать вывод об отсутствии или наличии заболевания [18].

Путем выравнивания геномных последовательностей представителей микобактерий нами были определены три группы мишеней для детекции комплекса Mycobacterium tuberculosis. Пер-вая группа: участок последовательности IS-элементов, встречающийся с различной степенью копийности среди видов Mycobacterium [18–24]. Вторая группа – регион дифференциации RD [9; 25; 26]. И третья – последовательности, кодирующие консервативные для комплекса области: белок mpt70 (MAJOR SECRETED IMMUNOGENIC PROTEIN) и белок Rv0577 (функция не из-вестна) [9; 27; 28]. Все три группы мишеней позволяют определять комплекс Mycobacterium tuberculosis с высокой специфичностью и дифференцировать его от других представителей ми-кобактерий.

Материалы и методы исследования. В настоящей работе использовались следующие реак-тивы: гуанидин тиоционат, Triton X-100, трис(гидроксиметил)аминометан (трис) и этилендиа-минтетраацетат натрия (Na-ЭДТА) (Sigma, США); агароза и дитиотреитол (Gibco BRL, США);

78

смесь dNTP (Fermentas, Литва), термостабильная RTaq ДНК-полимераза и буфер для амплифи-кации (производства ИБОХ НАН Беларуси).

Штаммы. ДНК штаммов M. tuberculosis H37Rv, M. bovis AF2122/97, M. bovis BCG, M. bovis Valle, M. avium 1603, M. fortuitum, M. phlei были получены из коллекции Института экспери- ментальной ветеринарии им. С. Н. Вышелесского. ДНК выделяли c использованием набора реа-гентов для выделения ДНК, разработанного в ИБОХ НАН Беларуси.

Праймеры. Последовательности праймеров и длина амплифицируемого фрагмента приведены в табл. 1. Проверку на наличие в различных нуклеотидных последовательностях сайтов неспе-цифической гомологии для выбранных праймеров проводили с использованием поисковой сис-темы BLAST (http://www.ncbi.nlm.nih.gov/blast/, NCBI, США)

Т а б л и ц а 1. Последовательности праймеров, используемых для амплификации мишеней комплекса Mycobacterium tuberculosis

Мишень Последовательность смыслового праймера Последовательность антисмыслового праймера Длина фрагмента, п. н.

16SRNA ACggTgggTACTAggTgTgggTTTC TCTgCgATTACTAgCgACTCCgACTTCA 543 IS1081 TCgCgTgATCCTTCgAAACg gCCgTTgCgCTgATTggACC 238 IS6110 CCTgCgAgCgTAggCgTCgg CTCgTCCAgCgCCgCTTCgg 123 ET CTggCTATATTCCTgggCCCgg gAggCgATCTggCggTTTgggg 146 MPB70 gAACAATCCggAgTTgACAA AgCACgCTgTCAATCATgTA 472 mpt70a AgAACACAATTgCggCAACC TTACCgACCTTgAggCTgTTAC 490 Rv0577 ATgCCCAAgAgAAgCgAATACAggCAA CTATTgCTgCggTgCgggCTTCAA 786 Rv0577a ATgCCCAAgAgAAgCgAATACAgg CgCAAAgTAgACgTgCCAATgA 631

ПЦР. Состав ПЦР смеси (конечный объем смеси – 25 мкл): 1x буфер для ПЦР; 2 мM MgCl2;

200 мкМ dNTP; 0,4 мкM каждого праймера; 1 ед. Taq-полимеразы; 7 % ДМСО; 1 μl ДНК с со- держанием ДНК не менее 10 нг.

Условия амплификации: денатурация – 94 ºС 4 мин; 30 циклов: денатурация 94 ºС 1 мин, от-жиг 60 ºС 1 мин, элонгация 72 ºС 1 мин; финальная элонгация – 72 ºС 10 мин.

Амплифицированные фрагменты разделяли методом гель-электрофореза в 2 %-ном агароз- ном геле с трис-ацетатным буфером в присутствии бромистого этидия (результаты регистриро-вали с помощью видеосистемы «Gel Imager 2»). В каждом случае проводили положительный и отрицательный контроль.

Секвенирование. Амплифицируемые фрагменты были выделены из геля набором Promega Wizard SV Gel and PCR Clean-Up System. С ампликонами проведено секвенирование, исполь- зуя наборы ABI PRISM BigDye Terminator v3.1 Ready Reaction Cycler Sequencing Kit, BigDye XTerminator Purification Kit и секвенатор Applied Biosystems 3130.

Результаты и их обсуждение. При проведении оптимизации ПЦР по детекции комплекса Mycobacterium tuberculosis подбирали температурный режим, временный профиль и состав реакционной смеси, обеспечивающие максимальную чувствительность и специфичность.

Температурный профиль варьировали в пределах температуры отжига праймеров. Проведен ПЦР с температурами отжига в диапазоне 50–70 ºС и определено, что оптимальная температура отжига – 60 ºС; температура ниже – уменьшает специфичность, выше – уменьшает выход. Вре-менной профиль: время отжига и элонгации – 1 мин, что достаточно для амплификации фраг-мента длиной 800 п. н. Условия амплификации выбирали универсальные для всех пар прайме-ров. Оптимальное число циклов – 30. Меньшее число циклов снижает выход целевого ПЦР-продукта, большее приводит к появлению неспецифичных продуктов амплификации.

Специфичность и эффективность ПЦР сильно зависят не только от условий амплификации, но и от компонентов реакционной смеси. Первое, что мы подбирали, это концентрация добавляемого хлорида магния. Нами были поставлены реакции со следующими концентрациями хлорида маг-ния: от 1 мМ до 5 мМ. Оптимальная концентрация – 2 мМ, меньшее количество уменьшает вы-ход, большее – ухудшает специфичность.

78

смесь dNTP (Fermentas, Литва), термостабильная RTaq ДНК-полимераза и буфер для амплифи-кации (производства ИБОХ НАН Беларуси).

Штаммы. ДНК штаммов M. tuberculosis H37Rv, M. bovis AF2122/97, M. bovis BCG, M. bovis Valle, M. avium 1603, M. fortuitum, M. phlei были получены из коллекции Института экспери- ментальной ветеринарии им. С. Н. Вышелесского. ДНК выделяли c использованием набора реа-гентов для выделения ДНК, разработанного в ИБОХ НАН Беларуси.

Праймеры. Последовательности праймеров и длина амплифицируемого фрагмента приведены в табл. 1. Проверку на наличие в различных нуклеотидных последовательностях сайтов неспе-цифической гомологии для выбранных праймеров проводили с использованием поисковой сис-темы BLAST (http://www.ncbi.nlm.nih.gov/blast/, NCBI, США)

Т а б л и ц а 1. Последовательности праймеров, используемых для амплификации мишеней комплекса Mycobacterium tuberculosis

Мишень Последовательность смыслового праймера Последовательность антисмыслового праймера Длина фрагмента, п. н.

16SRNA ACggTgggTACTAggTgTgggTTTC TCTgCgATTACTAgCgACTCCgACTTCA 543 IS1081 TCgCgTgATCCTTCgAAACg gCCgTTgCgCTgATTggACC 238 IS6110 CCTgCgAgCgTAggCgTCgg CTCgTCCAgCgCCgCTTCgg 123 ET CTggCTATATTCCTgggCCCgg gAggCgATCTggCggTTTgggg 146 MPB70 gAACAATCCggAgTTgACAA AgCACgCTgTCAATCATgTA 472 mpt70a AgAACACAATTgCggCAACC TTACCgACCTTgAggCTgTTAC 490 Rv0577 ATgCCCAAgAgAAgCgAATACAggCAA CTATTgCTgCggTgCgggCTTCAA 786 Rv0577a ATgCCCAAgAgAAgCgAATACAgg CgCAAAgTAgACgTgCCAATgA 631

ПЦР. Состав ПЦР смеси (конечный объем смеси – 25 мкл): 1x буфер для ПЦР; 2 мM MgCl2;

200 мкМ dNTP; 0,4 мкM каждого праймера; 1 ед. Taq-полимеразы; 7 % ДМСО; 1 μl ДНК с со- держанием ДНК не менее 10 нг.

Условия амплификации: денатурация – 94 ºС 4 мин; 30 циклов: денатурация 94 ºС 1 мин, от-жиг 60 ºС 1 мин, элонгация 72 ºС 1 мин; финальная элонгация – 72 ºС 10 мин.

Амплифицированные фрагменты разделяли методом гель-электрофореза в 2 %-ном агароз- ном геле с трис-ацетатным буфером в присутствии бромистого этидия (результаты регистриро-вали с помощью видеосистемы «Gel Imager 2»). В каждом случае проводили положительный и отрицательный контроль.

Секвенирование. Амплифицируемые фрагменты были выделены из геля набором Promega Wizard SV Gel and PCR Clean-Up System. С ампликонами проведено секвенирование, исполь- зуя наборы ABI PRISM BigDye Terminator v3.1 Ready Reaction Cycler Sequencing Kit, BigDye XTerminator Purification Kit и секвенатор Applied Biosystems 3130.

Результаты и их обсуждение. При проведении оптимизации ПЦР по детекции комплекса Mycobacterium tuberculosis подбирали температурный режим, временный профиль и состав реакционной смеси, обеспечивающие максимальную чувствительность и специфичность.

Температурный профиль варьировали в пределах температуры отжига праймеров. Проведен ПЦР с температурами отжига в диапазоне 50–70 ºС и определено, что оптимальная температура отжига – 60 ºС; температура ниже – уменьшает специфичность, выше – уменьшает выход. Вре-менной профиль: время отжига и элонгации – 1 мин, что достаточно для амплификации фраг-мента длиной 800 п. н. Условия амплификации выбирали универсальные для всех пар прайме-ров. Оптимальное число циклов – 30. Меньшее число циклов снижает выход целевого ПЦР-продукта, большее приводит к появлению неспецифичных продуктов амплификации.

Специфичность и эффективность ПЦР сильно зависят не только от условий амплификации, но и от компонентов реакционной смеси. Первое, что мы подбирали, это концентрация добавляемого хлорида магния. Нами были поставлены реакции со следующими концентрациями хлорида маг-ния: от 1 мМ до 5 мМ. Оптимальная концентрация – 2 мМ, меньшее количество уменьшает вы-ход, большее – ухудшает специфичность.

79

Так как последовательность ДНК микобактерий отличается повышенным GC-составом, для проведения ПЦР требуется введение новых компонентов, так называемых энхансеров. Энхансе-ры в ПЦР – это добавки, понижающие температуру плавления ДНК, стабилизирующие фермент и устраняющие проблемы, возникающие при образовании шпилек в GC-богатых участках [6; 29]. Нами были испробованы бетаин, желатин, ДМСО, БСА. Наилучшей эффективностью обладает 7 %-ный ДМСО.

Материалом для исследования методом ПЦР служит ДНК возбудителя. Так как метод основан на выявлении фрагмента ДНК, являющегося специфичным для конкретного организма, то основ-ным является правильный выбор фрагмента-мишени. Для дифференциации представителей рода Mycobacterium от других организмов, нами в качестве ПЦР-мишени выбран участок 16S rRNA, который высококонсервативен среди микобактерий, что подтверждается результатами сопостав-ления нуклеотидных последовательностей из базы данных GeneBank (accession no. Mycobacterium tuberculosis: NC_000962, Mycobacterium bovis: NC_002945) с участком генома M. tuberculosis 1471846–1473383, кодирующего 16S rRNA. Разработанные праймеры (табл. 1) фланкируют участок 1472650–1473192, длина которого составляет 543 п. н. Со всеми имеющимися видами микобак- терий, используя данные праймеры, получен положительный результат. Также для проверки специфичности брали ДНК E. coli, S. aureus и человека. При использовании данных образцов ДНК амплификация не происходила ни с одной из групп праймеров (табл. 1).

Для детекции комплекса Mycobacterium tuberculosis нами были выбраны три группы ми-шеней.

Первая группа мишеней – последовательности, кодирующие IS-элементы микобактерий. IS-элементы с различной копийностью (0–20 копий) встречаются у всех штаммов микобактерий, принадлежащих комплексу [18–24]. Нами были выбраны IS1081 и IS6110 (подобранные прай- меры приведены в табл. 1). Хотя мишень на основе IS-элементов повышает выход амплифика-ции, в случае использования ДНК M.bovis Valle мы не наблюдали образования ПЦР продуктов (табл. 1).

Вторая группа: мишень на основе региона дифференциации RD1. Данная область присут- ствует только у представителей комплекса Mycobacterium tuberculosis, кроме M. bovis BCG. По-добрав специфичные праймеры так, что один из них комплементарен области RD, нам удалось детектировать только представителей комплекса. Праймеры ЕТ детектировали Mycobacterium tuberculosis и Mycobacterium bovis, однако с подвидом M. bovis Valle мы получили отрицатель-ный результат, что делает их менее специфичными.

И третья группа мишеней – консервативные участки генома: нами выбраны гены mpb70 и Rv0577. Праймеры MPB70, mpt70a, Rv0577, Rv0577a были признаны лучшими, так как при одинаковом количестве матрицы они давали наиболее четкие и яркие полосы при электрофорезе и детектировали все виды микобактерий, входящие в комплекс Mycobacterium tuberculosis.

Чувствительность ПЦР. Чувствительность ПЦР определяли, добавляя различное количество ДНК M. tuberculosis H37Rv в реакционную смесь. Концентрацию ДНК вычисляли при помощи спектрофотометра SPECORD M40 (1 оптическая единица при 260 нм – 50 мкг/мл). 1 пикограмм ДНК давал полосу при электрофорезе, что позволяло определять наличие возбудителя в образце (рис. 1). Известно, что одна мико-бактерия содержит около 5 фенто-грамм ДНК, следовательно с по-мощью разработанной нами мето-дики ПЦР можно визуально детек- тировать образец, содержащий око- ло 200 геном-эквивалентов [30].

Специфичность ПЦР. Мы ис-пользовали ДНК из 7 видов мико-бактерий (табл. 2). Для ПЦР ис-пользовали 100 пкг ДНК.

Рис. 1. Определение чувствительности ПЦР с ДНК M.tuberculosis (H37Rv)и праймерами на 16sRNA (543 п. н.). Электрофорез в 2 %-ном агарозном геле. St – маркеры молекулярного веса, п. н.; «–» – отрицательный кон-троль; 1 – 100 нг; 2 – 50 нг; 3 – 10 нг; 4 – 2 нг; 5 – 1 нг; 6 – 100 пкг; 7 – 10 пкг; 8 – 1 пкг; 9 – 100 фг

79

Так как последовательность ДНК микобактерий отличается повышенным GC-составом, для проведения ПЦР требуется введение новых компонентов, так называемых энхансеров. Энхансе-ры в ПЦР – это добавки, понижающие температуру плавления ДНК, стабилизирующие фермент и устраняющие проблемы, возникающие при образовании шпилек в GC-богатых участках [6; 29]. Нами были испробованы бетаин, желатин, ДМСО, БСА. Наилучшей эффективностью обладает 7 %-ный ДМСО.

Материалом для исследования методом ПЦР служит ДНК возбудителя. Так как метод основан на выявлении фрагмента ДНК, являющегося специфичным для конкретного организма, то основ-ным является правильный выбор фрагмента-мишени. Для дифференциации представителей рода Mycobacterium от других организмов, нами в качестве ПЦР-мишени выбран участок 16S rRNA, который высококонсервативен среди микобактерий, что подтверждается результатами сопостав-ления нуклеотидных последовательностей из базы данных GeneBank (accession no. Mycobacterium tuberculosis: NC_000962, Mycobacterium bovis: NC_002945) с участком генома M. tuberculosis 1471846–1473383, кодирующего 16S rRNA. Разработанные праймеры (табл. 1) фланкируют участок 1472650–1473192, длина которого составляет 543 п. н. Со всеми имеющимися видами микобак- терий, используя данные праймеры, получен положительный результат. Также для проверки специфичности брали ДНК E. coli, S. aureus и человека. При использовании данных образцов ДНК амплификация не происходила ни с одной из групп праймеров (табл. 1).

Для детекции комплекса Mycobacterium tuberculosis нами были выбраны три группы ми-шеней.

Первая группа мишеней – последовательности, кодирующие IS-элементы микобактерий. IS-элементы с различной копийностью (0–20 копий) встречаются у всех штаммов микобактерий, принадлежащих комплексу [18–24]. Нами были выбраны IS1081 и IS6110 (подобранные прай- меры приведены в табл. 1). Хотя мишень на основе IS-элементов повышает выход амплифика-ции, в случае использования ДНК M.bovis Valle мы не наблюдали образования ПЦР продуктов (табл. 1).

Вторая группа: мишень на основе региона дифференциации RD1. Данная область присут- ствует только у представителей комплекса Mycobacterium tuberculosis, кроме M. bovis BCG. По-добрав специфичные праймеры так, что один из них комплементарен области RD, нам удалось детектировать только представителей комплекса. Праймеры ЕТ детектировали Mycobacterium tuberculosis и Mycobacterium bovis, однако с подвидом M. bovis Valle мы получили отрицатель-ный результат, что делает их менее специфичными.

И третья группа мишеней – консервативные участки генома: нами выбраны гены mpb70 и Rv0577. Праймеры MPB70, mpt70a, Rv0577, Rv0577a были признаны лучшими, так как при одинаковом количестве матрицы они давали наиболее четкие и яркие полосы при электрофорезе и детектировали все виды микобактерий, входящие в комплекс Mycobacterium tuberculosis.

Чувствительность ПЦР. Чувствительность ПЦР определяли, добавляя различное количество ДНК M. tuberculosis H37Rv в реакционную смесь. Концентрацию ДНК вычисляли при помощи спектрофотометра SPECORD M40 (1 оптическая единица при 260 нм – 50 мкг/мл). 1 пикограмм ДНК давал полосу при электрофорезе, что позволяло определять наличие возбудителя в образце (рис. 1). Известно, что одна мико-бактерия содержит около 5 фенто-грамм ДНК, следовательно с по-мощью разработанной нами мето-дики ПЦР можно визуально детек- тировать образец, содержащий око- ло 200 геном-эквивалентов [30].

Специфичность ПЦР. Мы ис-пользовали ДНК из 7 видов мико-бактерий (табл. 2). Для ПЦР ис-пользовали 100 пкг ДНК.

Рис. 1. Определение чувствительности ПЦР с ДНК M.tuberculosis (H37Rv)и праймерами на 16sRNA (543 п. н.). Электрофорез в 2 %-ном агарозном геле. St – маркеры молекулярного веса, п. н.; «–» – отрицательный кон-троль; 1 – 100 нг; 2 – 50 нг; 3 – 10 нг; 4 – 2 нг; 5 – 1 нг; 6 – 100 пкг; 7 – 10 пкг; 8 – 1 пкг; 9 – 100 фг

80

Т а б л и ц а 2. Результаты ПЦР с использованием ДНК из различных организмов с использованием праймеров для амплификации мишеней комплекса Mycobacterium tuberculosis (+/– – наличие/отсутствие амплификации)

16sRNA IS1081 IS81 IS6110 ET MPB70 Mpt70a Rv0577 Rv0577a

M.tuberculosis H37Rv + + + + + + + + + M.bovis + + + + + + + + + M.bovis BCG + + + + + + + + + M.bovis Valle + – – – – + + + + M.avium 1603 + – – – – – – – – M.fortuitum + – – – – – – – – M.phlei + – – – – – – – –

Рис. 2. Результаты амплификации фрагментов мишеней Mycobacterium tuberculosis (A) и Mycobacterium bovis (Б).

St – стандарты молекулярной массы

ПЦР с использованием выбранных праймеров позволила амплифицировать ДНК-фрагменты с ожидаемой молекулярной массой (см. табл. 1) у всех контрольных штаммов микобактерий. На рис. 2 приведены электрофореграммы амплифицируемых фрагментов мишеней Mycobacterium tuberculosis (A) и Mycobacterium bovis (Б) со всеми подобранными праймерами.

Для каждого из ПЦР-продуктов было проведено определение нуклеотидной последователь-ности с использованием секвенирования. Последовательность амплифицированных фрагментов мишеней комплекса Mycobacterium tuberculosis соответствует ожидаемой (GeneBank accession no. Mycobacterium tuberculosis: AL123456, Mycobacterium bovis: NC_002945; NCBI).

Заключение. В данной работе проанализированы три группы праймеров и разработана ме-тодика, позволяющая селективно детектировать микобактерии, относящиеся к комплексу Mycobac- terium tuberculosis.


1. P o n p u a k M., D e l g a d o M. A., E l m a o u e d R. A., D e r e t i c V. // Methods Enzymol. 2009. Vol. 452. P. 345–361.

2. Z v i A., A r i e l N., F u l k e r s o n J. et al. // BMC Med. Genomics. 2008. Vol. 1. P. 18. 3. S y h r e M., C h a m b e r s S. T. // Tuberculosis (Edinb). 2008. Vol. 88, N 4. P. 317–323. 4. S m i t v a n D i x h o o r n M. G., M u n i r R., S u s s m a n G. et al. // Mol. Immunol. 2008. Vol. 45, N 6.

P. 1573–1586. 5. M o k a d d a s E., A h m a d S. // Jpn. J. Infect. Dis. 2007. Vol. 60, N 2–3. P. 140–144. 6. K o v a r o v a M., D r a b e r P. // Nucleic Acids Res. 2000. Vol. 28, N 13. P. E70. 7. M c L e a n K. J., M a r s h a l l K. R., R i c h m o n d A. et al. // Microbiology. 2002. Vol. 148, N 10. P. 2937–2949. 8. C o l e S. T. // Microbiology. 2002. Vol. 148, N 10. P. 2919–2928. 9. H u a r d R. C., L a z z a r i n i L. C., B u t l e r W. R. et al. // J. Clin. Microbiol. 2003. Vol. 41, N 4. P. 1637–1650.

10. B r o s c h R., G o r d o n S. V., M a r m i e s s e M. et al. // Proc. Natl. Acad. Sci. USA. 2002. Vol. 99, N 6. P. 3684–3689.

11. K r z y w i n s k a E., K r z y w i n s k i J., S c h o r e y J. S. // Microbiology. 2004. Vol. 150, N 6. P. 1707–1712. 12. D a s S., D a s S. C., V e r m a R. // Microbiol. Immunol. 2007. Vol. 51, N 2. P. 231–234. 13. T a l b o t E. A., W i l l i a m s D. L., F r o t h i n g h a m R. // J. Clin. Microbiol. 1997. Vol. 35, N 3. P. 566–569. 14. G i t h u i W. A., M a t u S. W., M u t h a m i L. N., J u m a E. // East. Afr. Med. J. 2007. Vol. 84, N 10. P. 455–459.

80

Т а б л и ц а 2. Результаты ПЦР с использованием ДНК из различных организмов с использованием праймеров для амплификации мишеней комплекса Mycobacterium tuberculosis (+/– – наличие/отсутствие амплификации)

16sRNA IS1081 IS81 IS6110 ET MPB70 Mpt70a Rv0577 Rv0577a

M.tuberculosis H37Rv + + + + + + + + + M.bovis + + + + + + + + + M.bovis BCG + + + + + + + + + M.bovis Valle + – – – – + + + + M.avium 1603 + – – – – – – – – M.fortuitum + – – – – – – – – M.phlei + – – – – – – – –

Рис. 2. Результаты амплификации фрагментов мишеней Mycobacterium tuberculosis (A) и Mycobacterium bovis (Б).

St – стандарты молекулярной массы

ПЦР с использованием выбранных праймеров позволила амплифицировать ДНК-фрагменты с ожидаемой молекулярной массой (см. табл. 1) у всех контрольных штаммов микобактерий. На рис. 2 приведены электрофореграммы амплифицируемых фрагментов мишеней Mycobacterium tuberculosis (A) и Mycobacterium bovis (Б) со всеми подобранными праймерами.

Для каждого из ПЦР-продуктов было проведено определение нуклеотидной последователь-ности с использованием секвенирования. Последовательность амплифицированных фрагментов мишеней комплекса Mycobacterium tuberculosis соответствует ожидаемой (GeneBank accession no. Mycobacterium tuberculosis: AL123456, Mycobacterium bovis: NC_002945; NCBI).

Заключение. В данной работе проанализированы три группы праймеров и разработана ме-тодика, позволяющая селективно детектировать микобактерии, относящиеся к комплексу Mycobac- terium tuberculosis.


1. P o n p u a k M., D e l g a d o M. A., E l m a o u e d R. A., D e r e t i c V. // Methods Enzymol. 2009. Vol. 452. P. 345–361.

2. Z v i A., A r i e l N., F u l k e r s o n J. et al. // BMC Med. Genomics. 2008. Vol. 1. P. 18. 3. S y h r e M., C h a m b e r s S. T. // Tuberculosis (Edinb). 2008. Vol. 88, N 4. P. 317–323. 4. S m i t v a n D i x h o o r n M. G., M u n i r R., S u s s m a n G. et al. // Mol. Immunol. 2008. Vol. 45, N 6.

P. 1573–1586. 5. M o k a d d a s E., A h m a d S. // Jpn. J. Infect. Dis. 2007. Vol. 60, N 2–3. P. 140–144. 6. K o v a r o v a M., D r a b e r P. // Nucleic Acids Res. 2000. Vol. 28, N 13. P. E70. 7. M c L e a n K. J., M a r s h a l l K. R., R i c h m o n d A. et al. // Microbiology. 2002. Vol. 148, N 10. P. 2937–2949. 8. C o l e S. T. // Microbiology. 2002. Vol. 148, N 10. P. 2919–2928. 9. H u a r d R. C., L a z z a r i n i L. C., B u t l e r W. R. et al. // J. Clin. Microbiol. 2003. Vol. 41, N 4. P. 1637–1650.

10. B r o s c h R., G o r d o n S. V., M a r m i e s s e M. et al. // Proc. Natl. Acad. Sci. USA. 2002. Vol. 99, N 6. P. 3684–3689.

11. K r z y w i n s k a E., K r z y w i n s k i J., S c h o r e y J. S. // Microbiology. 2004. Vol. 150, N 6. P. 1707–1712. 12. D a s S., D a s S. C., V e r m a R. // Microbiol. Immunol. 2007. Vol. 51, N 2. P. 231–234. 13. T a l b o t E. A., W i l l i a m s D. L., F r o t h i n g h a m R. // J. Clin. Microbiol. 1997. Vol. 35, N 3. P. 566–569. 14. G i t h u i W. A., M a t u S. W., M u t h a m i L. N., J u m a E. // East. Afr. Med. J. 2007. Vol. 84, N 10. P. 455–459.

81

15. K o c a z e y b e k B. S. // Chemotherapy. 2002. Vol. 48, N 2. P. 64–70. 16. H a l d a r S., S h a r m a N., G u p t a V. K., T y a g i J. S. // J. Med. Microbiol. 2009. Vol. 58, N 5. P. 616–624. 17. A l i e v K. A., S a l i m o v a N. A. // Georgian Med. News. 2007. N 148–149. P. 32–36. 18. F a n g Z., M o r r i s o n N., W a t t B. et al. // J. Bacteriol. 1998. Vol. 180, N 8. P. 2102–2109. 19. N e g i S. S., A n a n d R., P a s h a S. T. et al. // J. Commun. Dis. 2006. Vol. 38, N 4. P. 325–332. 20. H e r m a n s P. W., v a n S o o l i n g e n D., D a l e J. W. et al. // J. Clin. Microbiol. 1990. Vol. 28, N 9. P. 2051–2058. 21. V i a n a - N i e r o C., G u t i e r r e z C., S o l a C. et al. // J. Clin. Microbiol. 2001. Vol. 39, N 1. P. 57–65. 22. G o r d o n S. V., H e y m B., P a r k h i l l J. et al. // Microbiology. 1999. Vol. 145, N 4. P. 881–892. 23. N e g i S. S., A n a n d R., P a s h a S. T. et al. // Indian J. Med. Microbiol. 2007. Vol. 25, N 1. P. 43–49. 24. A h m e d N., M o h a n t y A. K., M u k h o p a d h y a y U. et al. // J. Clin. Microbiol. 1998. Vol. 36, N 10.

P. 3094–3095. 25. T a l b o t E. A., W i l l i a m s D. L., F r o t h i n g h a m R. // J. Clin. Microbiol. 1997. Vol. 35, N 3. P. 566–569. 26. B r o s c h R., G o r d o n S. V., M a r m i e s s e M. et al. // Proc. Natl. Acad. Sci. USA. 2002. Vol. 99, N 6.

P. 3684–3689. 27. M a t s u m o t o S., M a t s u o T., O h a r a N. et al. // Scand. J. Immunol. 1995. Vol. 41, N 3. P. 281–287. 28. B e n a b d e s s e l e m C., F a t h a l l a h D. M., H u a r d R. C. et al. // J. Clin. Microbiol. 2006. Vol. 44, N 9.

P. 3086–3093. 29. R a l s e r M., Q u e r f u r t h R., W a r n a t z H. J. et al. // Biochem. Biophys. Res. Commun. 2006. Vol. 347, N 3.

P. 747–751. 30. H a s h i m o t o T., S u z u k i K., A m i t a n i R., K u z e F. // Intern. Med. 1995. Vol. 34, N 7. P. 605–610.

VASILEVSKAYA A. V., SERGEEV G. V., GILEP A. A., USANOV S. A.

[email protected]

PCR-TARGETS FOR DETECTION OF THE MYCOBATERIUM TUBERCULOSIS COMPLEX SPECIES

Summary

The Mycobacterium genus includes a number of species. But just a few species are known as the causative agent of human tuberculosis and belong to the Mycobacterium tuberculosis complex. Therefore the main aim of tuberculosis diagnostics is the specific detection of specimens of the Mycobacterium tuberculosis complex.

In this study we analyzed possible targets for detection of the Mycobacterium tuberculosis complex using PCR. The target gene loci were IS-elements (IS1081, IS6110), the RD-region, and the sequences of conservative genes MPB70 and Rv0577. The result of this work is the development of the PCR-procedure for detection of pathogens of the Mycobacterium tuberculosis complex.

81

15. K o c a z e y b e k B. S. // Chemotherapy. 2002. Vol. 48, N 2. P. 64–70. 16. H a l d a r S., S h a r m a N., G u p t a V. K., T y a g i J. S. // J. Med. Microbiol. 2009. Vol. 58, N 5. P. 616–624. 17. A l i e v K. A., S a l i m o v a N. A. // Georgian Med. News. 2007. N 148–149. P. 32–36. 18. F a n g Z., M o r r i s o n N., W a t t B. et al. // J. Bacteriol. 1998. Vol. 180, N 8. P. 2102–2109. 19. N e g i S. S., A n a n d R., P a s h a S. T. et al. // J. Commun. Dis. 2006. Vol. 38, N 4. P. 325–332. 20. H e r m a n s P. W., v a n S o o l i n g e n D., D a l e J. W. et al. // J. Clin. Microbiol. 1990. Vol. 28, N 9. P. 2051–2058. 21. V i a n a - N i e r o C., G u t i e r r e z C., S o l a C. et al. // J. Clin. Microbiol. 2001. Vol. 39, N 1. P. 57–65. 22. G o r d o n S. V., H e y m B., P a r k h i l l J. et al. // Microbiology. 1999. Vol. 145, N 4. P. 881–892. 23. N e g i S. S., A n a n d R., P a s h a S. T. et al. // Indian J. Med. Microbiol. 2007. Vol. 25, N 1. P. 43–49. 24. A h m e d N., M o h a n t y A. K., M u k h o p a d h y a y U. et al. // J. Clin. Microbiol. 1998. Vol. 36, N 10.

P. 3094–3095. 25. T a l b o t E. A., W i l l i a m s D. L., F r o t h i n g h a m R. // J. Clin. Microbiol. 1997. Vol. 35, N 3. P. 566–569. 26. B r o s c h R., G o r d o n S. V., M a r m i e s s e M. et al. // Proc. Natl. Acad. Sci. USA. 2002. Vol. 99, N 6.

P. 3684–3689. 27. M a t s u m o t o S., M a t s u o T., O h a r a N. et al. // Scand. J. Immunol. 1995. Vol. 41, N 3. P. 281–287. 28. B e n a b d e s s e l e m C., F a t h a l l a h D. M., H u a r d R. C. et al. // J. Clin. Microbiol. 2006. Vol. 44, N 9.

P. 3086–3093. 29. R a l s e r M., Q u e r f u r t h R., W a r n a t z H. J. et al. // Biochem. Biophys. Res. Commun. 2006. Vol. 347, N 3.

P. 747–751. 30. H a s h i m o t o T., S u z u k i K., A m i t a n i R., K u z e F. // Intern. Med. 1995. Vol. 34, N 7. P. 605–610.

VASILEVSKAYA A. V., SERGEEV G. V., GILEP A. A., USANOV S. A.

[email protected]

PCR-TARGETS FOR DETECTION OF THE MYCOBATERIUM TUBERCULOSIS COMPLEX SPECIES

Summary

The Mycobacterium genus includes a number of species. But just a few species are known as the causative agent of human tuberculosis and belong to the Mycobacterium tuberculosis complex. Therefore the main aim of tuberculosis diagnostics is the specific detection of specimens of the Mycobacterium tuberculosis complex.

In this study we analyzed possible targets for detection of the Mycobacterium tuberculosis complex using PCR. The target gene loci were IS-elements (IS1081, IS6110), the RD-region, and the sequences of conservative genes MPB70 and Rv0577. The result of this work is the development of the PCR-procedure for detection of pathogens of the Mycobacterium tuberculosis complex.

82



УДК 547.92:573.6.086

Член-корреспондент В. А. ХРИПАЧ, Р. П. ЛИТВИНОВСКАЯ, С. В. ДРАЧ, М. А. АВЕРЬКОВА, В. Н. ЖАБИНСКИЙ, О. В. СВИРИДОВ,

А. Г. ПРЯДКО, Т. В. НОВИК, В. Д. МАТВЕЕНЦЕВ

ИММУНОФЕРМЕНТНЫЙ АНАЛИЗ (24S)-МЕТИЛБРАССИНОСТЕРОИДОВ


Интерес, проявляемый к иммунохимическому анализу брассиностероидов, связан прежде всего с тем, что существующие методы определения данных соединений требуют сложной мно-гоступенчатой процедуры выделения, очистки и химической модификации, что делает практи-чески невозможным оперативный мониторинг [1–3]. Ранее нами были разработаны методы им-мунохимического анализа 24R-метил-, 28-гомобрассиностероидов и брассиностероидных лакто-нов [4–7].

В настоящей работе впервые сделана попытка разработать иммуноферментный метод опре-деления брассинолида и его биосинтетических предшественников – кастастерона и 6-дезоксо- кастастерона. Следует упомянуть, что предпринимались попытки иммунохимического анализа для количественного определения брассинолида. Так, для радиоиммунного анализа были полу-чены антитела к кастастерону, на базе которых удалось создать систему для анализа брассино-лида и кастастерона [8; 9], однако из-за сложности работы с радиоактивными изотопами и необ-ходимости комбинирования с инструментальными методами разработка не получила развития. Кроме того, полученная система имела низкую специфичность: показатели перекрестных реак-ций с другими брассиностероидами составляли 20–50 %.

Метод иммуноферментного определения 24S-метилбрассиностероидов требует наличия со-ответствующего иммуногена. Ранее в качестве гаптенов использовали 6-О-карбоксиметилоксим кастастерона (1) [8] или 3-оксисукцинат брассинолида (2) [9]:

HO

HO

N

OH

OH

O COOH

O

HO

OH

OH

O

OO

OO H

1 2 Первый предложен авторами для получения конъюгата с белком (бычьим сывороточным

альбумином, БСА) для выработки антител, использованных в упомянутом выше радиоиммуно- анализе брассиностероидов. Соединение (2) использовали для синтеза конъюгата с мышиным альбумином, однако это также не позволило получить антитела, специфичные к 24S-метилбрассино- стероидам.

Представлялось интересным получить и исследовать гаптен кастастерона с линкером, уда-ленным от циклической части молекулы брассиностероида. В настоящей работе для такой мо-дификации молекулы мы использовали N-оксисукцинимидный эфир соединения (1), взаимодей-

82



УДК 547.92:573.6.086

Член-корреспондент В. А. ХРИПАЧ, Р. П. ЛИТВИНОВСКАЯ, С. В. ДРАЧ, М. А. АВЕРЬКОВА, В. Н. ЖАБИНСКИЙ, О. В. СВИРИДОВ,

А. Г. ПРЯДКО, Т. В. НОВИК, В. Д. МАТВЕЕНЦЕВ

ИММУНОФЕРМЕНТНЫЙ АНАЛИЗ (24S)-МЕТИЛБРАССИНОСТЕРОИДОВ


Интерес, проявляемый к иммунохимическому анализу брассиностероидов, связан прежде всего с тем, что существующие методы определения данных соединений требуют сложной мно-гоступенчатой процедуры выделения, очистки и химической модификации, что делает практи-чески невозможным оперативный мониторинг [1–3]. Ранее нами были разработаны методы им-мунохимического анализа 24R-метил-, 28-гомобрассиностероидов и брассиностероидных лакто-нов [4–7].

В настоящей работе впервые сделана попытка разработать иммуноферментный метод опре-деления брассинолида и его биосинтетических предшественников – кастастерона и 6-дезоксо- кастастерона. Следует упомянуть, что предпринимались попытки иммунохимического анализа для количественного определения брассинолида. Так, для радиоиммунного анализа были полу-чены антитела к кастастерону, на базе которых удалось создать систему для анализа брассино-лида и кастастерона [8; 9], однако из-за сложности работы с радиоактивными изотопами и необ-ходимости комбинирования с инструментальными методами разработка не получила развития. Кроме того, полученная система имела низкую специфичность: показатели перекрестных реак-ций с другими брассиностероидами составляли 20–50 %.

Метод иммуноферментного определения 24S-метилбрассиностероидов требует наличия со-ответствующего иммуногена. Ранее в качестве гаптенов использовали 6-О-карбоксиметилоксим кастастерона (1) [8] или 3-оксисукцинат брассинолида (2) [9]:

HO

HO

N

OH

OH

O COOH

O

HO

OH

OH

O

OO

OO H

1 2 Первый предложен авторами для получения конъюгата с белком (бычьим сывороточным

альбумином, БСА) для выработки антител, использованных в упомянутом выше радиоиммуно- анализе брассиностероидов. Соединение (2) использовали для синтеза конъюгата с мышиным альбумином, однако это также не позволило получить антитела, специфичные к 24S-метилбрассино- стероидам.

Представлялось интересным получить и исследовать гаптен кастастерона с линкером, уда-ленным от циклической части молекулы брассиностероида. В настоящей работе для такой мо-дификации молекулы мы использовали N-оксисукцинимидный эфир соединения (1), взаимодей-

83

ствием которого с ω-аминокапроновой кислотой получен гаптен (3). Для выработки антител к 24S-метилбрассиностероидам синтезированный гаптен (3) через соответствующий N-оксисук- цинимидный эфир реакцией с бычьим сывороточным альбумином в водно-диоксановом раство-ре превратили в конъюгат (4). В качестве меченого антигена в разработанной тест-системе ис-пользовали конъюгат кастастерона с пероксидазой хрена (5), полученный взаимодействием N-оксисукцинимидного эфира соединения (1) с пероксидазой хрена в водной среде в присутствии гидрокарбоната калия с последующей очисткой на сефадексе.

Получение антисывороток проводили по методикам, описанным в работах [5; 6]. В процессе

тестирования отобраны две антисыворотки с наибольшими титрами и значениями констант ассо-циации (Ка) (табл. 1).

Т а б л и ц а 1. Характеристики антисывороток, полученных при иммунизации животных конъюгатом кастастерона с БСА (4)

Антисыворотка Ка × 109 М–1 Титр

А1 А2

4,2 2,7

100 000 10 000

Определение оптимального титра антисыворотки для применения в ИФА показало, что ее

разбавление в 100 000(А1) или 10 000(А2) раз позволяет обеспечить приемлемые условия опре-деления как кастастерона, так и брассинолида, проявивших сравнимые параметры связывания с антителами. Антисыворотка А1 была опосредовано с использованием антивидовых антител иммобилизована на стандартных 96-луночных планшетах и послужила основой для создания системы иммуноферментного анализа 24S-метилбрассиностероидов.

Основными показателями качества иммуноферментной тест-системы являются специфич-ность, чувствительность и воспроизводимость.

Перекрестные реакции различных стероидов, включая ряд брассиностероидов, показали вы-сокую специфичность разработанной тест-системы (табл. 2).

Из данных табл. 2 видно, что наибольшее значение кросс-реактивности имеет брассинолид, перекрестная реакция которого с антителами к кастастерону составляет 100 %.

Чувствительность полученной тест-системы высокая – состав позволяет обнаружить каста-стерон и брассинолид в концентрации 0,2–0,3 нмоль/л, или 5–7 пг в 50 мкл образца.

83

ствием которого с ω-аминокапроновой кислотой получен гаптен (3). Для выработки антител к 24S-метилбрассиностероидам синтезированный гаптен (3) через соответствующий N-оксисук- цинимидный эфир реакцией с бычьим сывороточным альбумином в водно-диоксановом раство-ре превратили в конъюгат (4). В качестве меченого антигена в разработанной тест-системе ис-пользовали конъюгат кастастерона с пероксидазой хрена (5), полученный взаимодействием N-оксисукцинимидного эфира соединения (1) с пероксидазой хрена в водной среде в присутствии гидрокарбоната калия с последующей очисткой на сефадексе.

Получение антисывороток проводили по методикам, описанным в работах [5; 6]. В процессе

тестирования отобраны две антисыворотки с наибольшими титрами и значениями констант ассо-циации (Ка) (табл. 1).

Т а б л и ц а 1. Характеристики антисывороток, полученных при иммунизации животных конъюгатом кастастерона с БСА (4)

Антисыворотка Ка × 109 М–1 Титр

А1 А2

4,2 2,7

100 000 10 000

Определение оптимального титра антисыворотки для применения в ИФА показало, что ее

разбавление в 100 000(А1) или 10 000(А2) раз позволяет обеспечить приемлемые условия опре-деления как кастастерона, так и брассинолида, проявивших сравнимые параметры связывания с антителами. Антисыворотка А1 была опосредовано с использованием антивидовых антител иммобилизована на стандартных 96-луночных планшетах и послужила основой для создания системы иммуноферментного анализа 24S-метилбрассиностероидов.

Основными показателями качества иммуноферментной тест-системы являются специфич-ность, чувствительность и воспроизводимость.

Перекрестные реакции различных стероидов, включая ряд брассиностероидов, показали вы-сокую специфичность разработанной тест-системы (табл. 2).

Из данных табл. 2 видно, что наибольшее значение кросс-реактивности имеет брассинолид, перекрестная реакция которого с антителами к кастастерону составляет 100 %.

Чувствительность полученной тест-системы высокая – состав позволяет обнаружить каста-стерон и брассинолид в концентрации 0,2–0,3 нмоль/л, или 5–7 пг в 50 мкл образца.

84

Т а б л и ц а 2. Кросс-реактивность антисыворотки А1 с различными стероидами

Стероид Связывание по отношению к кастастерону (%)

1. Кастастерон 2. Брассинолид 3. 6-Дезоксокастастерон 4. 24-Эпикастастерон 5. 24-Эпибрассинолид 6. 6-Деоксо-24-эпикастастерон 7. Гомокастастерон 8. Гомобрассинолид 9. Экдистерон 10. (22R,23R)-22,23-Дигидроксистиг-маст-2-ен-6-он 11. Стигмастерин 12. 2α,3α-Дигидрокси-5α-эргост-22-ен-6-он 13. Кампестерин 14. Эргостерин 15. (22R,23R)-22,23-Дигидрокси-3α,5-цикло-5α-стигмаст-6-он 16. (22S,23S)-22,23-Дигидрокси-3α,5-цикло-5α-стигмаст-6-он 17. Холестерин 18. Прегненолон 19. Андростенолон

100 100 12,5 5,0 8,0 2,0 17,7 14,0

< 0,001 19,0 0,04 0,10 0,01 0,09 9,1 0,05

0,025 0,09 0,01

Коэффициент вариации результатов 10 определений 24S-метилбрассиностероидов в одном

и том же образце с использованием иммуноферментной системы не превышает 10 %, что гово-рит о высокой воспроизводимости результатов.

Экспериментальная часть. Температура плавления определена на блоке Кофлера. Спектры ЯМР 1Н сняты на приборе Bruker A-500 (рабочая частота 500 МГц), в дейтерохлороформе с ТМС в качестве внутреннего стандарта, КССВ приведены в Гц. ИК спектры получены на при-боре UR-20 (в пленке или в вазелиновом масле). Протекание реакций контролировали методом ТСХ на пластинах Merck (Kieselgel 60 F254). Хроматографическое разделение реакционных сме-сей осуществляли на силикагеле 40/60 (Kieselgel 60, Merck).

6-(6-((22R,23R,24S)-2α,3α,22,23-тетрагидрокси-24-этил-5α-холест-6-илиденаминоокси)аце- тамидо)гексановая кислота (3). Растворяли 8 мг (0,015 ммоль) 6-О-карбоксиметилоксима (1) [8] в 1 мл безводного диоксана и добавляли 1,8 мг (0,016 ммоль) N-оксисукцинимида. Охлажда-ли до 5 °С и при перемешивании добавляли раствор 2,6 мг (0,013 ммоль) дициклогексилкарбо-диимида в 0,3 мл абсолютного диоксана. Реакционную смесь перемешивали 30 мин при 5 °С и 15 ч при комнатной температуре. Выпавшую в осадок дициклогексилкарбомочевину отфиль- тровывали, фильтрат упаривали. Осадок растворяли в этилацетате, дополнительно образовав-шийся осадок дициклогексилкарбомочевины отфильтровывали, фильтрат упаривали. Получили 9 мг (90 %) N-сукцинимидного эфира, который без дополнительной очистки растворяли в 1 мл безводного диоксана и добавляли 1,9 мг (0,017 ммоль) ε-аминокапроновой кислоты в 1 мл 0,1 М раствора гидрокарбоната натрия и перемешивали 2 ч при комнатной температуре. Затем реакци-онную смесь упаривали, остаток экстрагировали этилацетатом. Хроматографировали на силика-геле. Получали 7 мг (71 %) гаптена (3). Т. пл. 155–158 оС (метанол). ИК спектр (вазелиновое масло), (см–1): 1710 (С=О), 2500–3000 (OH), 3600 (ОН). Cпектр ЯМР 1Н δ, м. д. (CD3OD): 0,65 с (3Н, 18-Ме); 0,88 с (3Н, 19-Ме); 0,99 д (3Н, 26 Ме, J 6,6 Гц); 1,01 д (3Н, 27-Ме, J 6,7 Гц); 1,06 д (3Н, 24-Ме, J 6 Гц); 1,08 д (3Н, 21-Ме, J 6,6 Гц); 2,68 дд (1Н, С5–Нα, J1 2,5 Гц, J2 12,5 Гц); 3,42 м (2Н, СН2); 3,94 д (1Н, С22–Н, J 8,4 Гц); 4,08 м (2Н, С2– и С23–Н); 4,46 м (1Н, С3–Нβ); 4,86 дд (2Н, J1 3,4 Гц, J2 0,2 Гц).

Получение конъюгата кастастерон–БСА. Растворяли 50 мг (0,08 ммоль) синтезированного гаптена (3) и 12 мг (0,1 ммоль) N-оксисукцинимида в 5 мл безводного диоксана, охлаждали до 5 оС и при перемешивании добавляли раствор 17,4 мг (0,084 ммоль) дициклогексилкарбодиими-да в 3 мл безводного диоксана. Реакционную смесь перемешивали 30 мин при 5 оС и 17 ч при комнатной температуре. Выпавшую в осадок дициклогексилкарбомочевину отфильтровывали,

84

Т а б л и ц а 2. Кросс-реактивность антисыворотки А1 с различными стероидами

Стероид Связывание по отношению к кастастерону (%)

1. Кастастерон 2. Брассинолид 3. 6-Дезоксокастастерон 4. 24-Эпикастастерон 5. 24-Эпибрассинолид 6. 6-Деоксо-24-эпикастастерон 7. Гомокастастерон 8. Гомобрассинолид 9. Экдистерон 10. (22R,23R)-22,23-Дигидроксистиг-маст-2-ен-6-он 11. Стигмастерин 12. 2α,3α-Дигидрокси-5α-эргост-22-ен-6-он 13. Кампестерин 14. Эргостерин 15. (22R,23R)-22,23-Дигидрокси-3α,5-цикло-5α-стигмаст-6-он 16. (22S,23S)-22,23-Дигидрокси-3α,5-цикло-5α-стигмаст-6-он 17. Холестерин 18. Прегненолон 19. Андростенолон

100 100 12,5 5,0 8,0 2,0 17,7 14,0

< 0,001 19,0 0,04 0,10 0,01 0,09 9,1 0,05

0,025 0,09 0,01

Коэффициент вариации результатов 10 определений 24S-метилбрассиностероидов в одном

и том же образце с использованием иммуноферментной системы не превышает 10 %, что гово-рит о высокой воспроизводимости результатов.

Экспериментальная часть. Температура плавления определена на блоке Кофлера. Спектры ЯМР 1Н сняты на приборе Bruker A-500 (рабочая частота 500 МГц), в дейтерохлороформе с ТМС в качестве внутреннего стандарта, КССВ приведены в Гц. ИК спектры получены на при-боре UR-20 (в пленке или в вазелиновом масле). Протекание реакций контролировали методом ТСХ на пластинах Merck (Kieselgel 60 F254). Хроматографическое разделение реакционных сме-сей осуществляли на силикагеле 40/60 (Kieselgel 60, Merck).

6-(6-((22R,23R,24S)-2α,3α,22,23-тетрагидрокси-24-этил-5α-холест-6-илиденаминоокси)аце- тамидо)гексановая кислота (3). Растворяли 8 мг (0,015 ммоль) 6-О-карбоксиметилоксима (1) [8] в 1 мл безводного диоксана и добавляли 1,8 мг (0,016 ммоль) N-оксисукцинимида. Охлажда-ли до 5 °С и при перемешивании добавляли раствор 2,6 мг (0,013 ммоль) дициклогексилкарбо-диимида в 0,3 мл абсолютного диоксана. Реакционную смесь перемешивали 30 мин при 5 °С и 15 ч при комнатной температуре. Выпавшую в осадок дициклогексилкарбомочевину отфиль- тровывали, фильтрат упаривали. Осадок растворяли в этилацетате, дополнительно образовав-шийся осадок дициклогексилкарбомочевины отфильтровывали, фильтрат упаривали. Получили 9 мг (90 %) N-сукцинимидного эфира, который без дополнительной очистки растворяли в 1 мл безводного диоксана и добавляли 1,9 мг (0,017 ммоль) ε-аминокапроновой кислоты в 1 мл 0,1 М раствора гидрокарбоната натрия и перемешивали 2 ч при комнатной температуре. Затем реакци-онную смесь упаривали, остаток экстрагировали этилацетатом. Хроматографировали на силика-геле. Получали 7 мг (71 %) гаптена (3). Т. пл. 155–158 оС (метанол). ИК спектр (вазелиновое масло), (см–1): 1710 (С=О), 2500–3000 (OH), 3600 (ОН). Cпектр ЯМР 1Н δ, м. д. (CD3OD): 0,65 с (3Н, 18-Ме); 0,88 с (3Н, 19-Ме); 0,99 д (3Н, 26 Ме, J 6,6 Гц); 1,01 д (3Н, 27-Ме, J 6,7 Гц); 1,06 д (3Н, 24-Ме, J 6 Гц); 1,08 д (3Н, 21-Ме, J 6,6 Гц); 2,68 дд (1Н, С5–Нα, J1 2,5 Гц, J2 12,5 Гц); 3,42 м (2Н, СН2); 3,94 д (1Н, С22–Н, J 8,4 Гц); 4,08 м (2Н, С2– и С23–Н); 4,46 м (1Н, С3–Нβ); 4,86 дд (2Н, J1 3,4 Гц, J2 0,2 Гц).

Получение конъюгата кастастерон–БСА. Растворяли 50 мг (0,08 ммоль) синтезированного гаптена (3) и 12 мг (0,1 ммоль) N-оксисукцинимида в 5 мл безводного диоксана, охлаждали до 5 оС и при перемешивании добавляли раствор 17,4 мг (0,084 ммоль) дициклогексилкарбодиими-да в 3 мл безводного диоксана. Реакционную смесь перемешивали 30 мин при 5 оС и 17 ч при комнатной температуре. Выпавшую в осадок дициклогексилкарбомочевину отфильтровывали,

85

фильтрат упаривали. Остаток растворяли в этилацетате, промывали водой, сушили безводным Na2SO4, упаривали. Без дополнительной очистки растворяли 35 мг (0,055 ммоль) N-оксисукци- нимидного эфира в 10 мл безводного диоксана и добавляли 52 мг (0,86 мкмоль) БСА в 10 мл смеси 9 мл дистилированной воды и 1 мл насыщенного раствора гидрокарбоната натрия. Пере-мешивали реакционную смесь в течение 20 ч при комнатной температуре. Образовавшуюся мас-су подвергали диализу при 20 оС против дистилированной воды в течение 36 ч, затем против 1 %-ной суспензии активированного угля в воде в течение 20 ч, остаток лиофилизовали и замо-раживали при температуре –20 оС. Содержание гаптена в конъюгате, определенное спектрофо-тометрически, составляло 24 моль гаптена на 1 моль белка.

Получение конъюгата кастастерон–пероксидаза хрена. К раствору 6 мг пероксидазы хре-на в 600 мл дистилированной воды в присутствии 2–3 капель 0,1 М раствора гидрокарбоната на-трия (рН 8,35) добавляли раствор 2 мг (0,003 ммоль) N-сукцинимидного эфира 6-О-карбокси- метилоксима кастастерона, полученного как в стадии 1, перемешивали при комнатной темпера-туре в течение 1,5 ч. Очищали на колонке с сефадексом (элюент – дистилированная вода). Соби-рали окрашенную желто-коричневую фракцию (~ 10 мл), разбавляли глицерином (1 : 1) и храни-ли в морозильнике (при –18 оС).

Получение антисыворотки к кастастерону. Группу из десяти кроликов иммунизировали конъюгатом кастастерон–БСА с плотностью посадки 24 молекулы стероида на 1 молекулу белка. Каждому кролику вводили подкожно в 10–15 точек спины по 1 мг конъюгата, предварительно растворенного в 0,5 мл фосфатно-буферного 0,1 М раствора поваренной соли (рН 7,4) и эмуль-гированного в равном объеме полного адъюванта Фрейнда. Интервалы между инъекциями со-ставляли 3 недели. Иммунизацию продолжали в течение 6 месяцев, осуществляя периодический отбор проб крови из ушной вены животных. Полученные образцы сыворотки тестировали на наличие связывающей способности в отношении кастастерона и определяли их титры и значе-ния констант ассоциации. Титр определяли как рабочее разведение антисыворотки, обеспечи-вающее максимальную чувствительность тест-системы при таком связывании конъюгата, кото-рое позволяет построить калибровочный график в диапазоне 2,5–0,2 ОЕ.

Применение разработанного способа позволяет с высокой степенью селективности прово-дить иммуноферментное определение одного из самых активных брассиностероидов – брасси-нолида и его химического и биохимического предшественника кастастерона в концентрациях 0,2–0,3 нмоль/л, или 5–7 пг в 50 мкл образца.

Работа выполнена при финансовой поддержке БРФФИ (грант Х09К-029).

Литература 1. T a k a t s u t o S. // J. Chromatogr. A. 1994. Vol. 658, N 1. P. 3–15. 2. C r o i z i e r A., M o r i t z T. Biochemistry and molecular biology of plant hormones / Ed. G. Bernardi. Evsevier,

1999. P. 23–60. 3. G a m o h K., T a k a t s u t o S. // J. Chromatogr. A. 1994. Vol. 658, N 1. P. 17–25. 4. K h r i p a c h V. A., S v i r i d o v O. V., L i t v i n o v s k a y a R. P. et al. // Polish J. Chem. 2006. Vol. 80. P. 651–654. 5. Х р и п а ч В. А., С в и р и д о в О. В., П р я д к о А. Г. и др. // Биоорг. химия. 2007. Т. 33, № 3. С. 371–378. 6. Х р и п а ч В. А., Л и т в и н о в с к а я Р. П., Р а й м а н М. Э. // Весцi НАН Беларусi. Сер. хiм. навук. 2008.

№ 3. С. 47–58 7. K h r i p a c h V. A., Z h a b i n s k i i V., A n t o n c h i c k A. et al. // Natural Product Communications. 2008.

Vol. 3, N 5. Р. 735–748. 8. Y o k o t a T., W a n a b e S., O g i n o Y. et al. // J. Plant Growth Regul. 1990. Vol. 9. P. 151. 9. S c h l a g n h a u f e r C. D., A r t e c a R. N., P h i l l i p s A. T. // Plant Physiol. (Suppl.) 1988. Vol. 86. P. 113.

KHRIPACH V. A., LITVINOVSKAYA R. P., DRACH S. V., AVERKAVA M. A., ZHABINSKII V. N., SVIRIDOV O. V., PRYADKO A. G., NOVIK T. V., MATVEENTSEV V. D.

[email protected]

IMMUNOENZYME ASSAY OF (24S)-METHYLBRASSINOSTEROIDS

Summary Starting from castasterone phytohormone, the synthesis of haptenes was carried out for preparing castasterone-horseradish

peroxidase and castasterone-bovine serum albumin conjugates. On the base of castasterone-bovine serum albumin conjugate polyclonal antibodies were obtained. The immunoenzyme test-system was developed for quantitative determination of 24S-methylbrassinosteroids (castasterone and brassinolide).

85

фильтрат упаривали. Остаток растворяли в этилацетате, промывали водой, сушили безводным Na2SO4, упаривали. Без дополнительной очистки растворяли 35 мг (0,055 ммоль) N-оксисукци- нимидного эфира в 10 мл безводного диоксана и добавляли 52 мг (0,86 мкмоль) БСА в 10 мл смеси 9 мл дистилированной воды и 1 мл насыщенного раствора гидрокарбоната натрия. Пере-мешивали реакционную смесь в течение 20 ч при комнатной температуре. Образовавшуюся мас-су подвергали диализу при 20 оС против дистилированной воды в течение 36 ч, затем против 1 %-ной суспензии активированного угля в воде в течение 20 ч, остаток лиофилизовали и замо-раживали при температуре –20 оС. Содержание гаптена в конъюгате, определенное спектрофо-тометрически, составляло 24 моль гаптена на 1 моль белка.

Получение конъюгата кастастерон–пероксидаза хрена. К раствору 6 мг пероксидазы хре-на в 600 мл дистилированной воды в присутствии 2–3 капель 0,1 М раствора гидрокарбоната на-трия (рН 8,35) добавляли раствор 2 мг (0,003 ммоль) N-сукцинимидного эфира 6-О-карбокси- метилоксима кастастерона, полученного как в стадии 1, перемешивали при комнатной темпера-туре в течение 1,5 ч. Очищали на колонке с сефадексом (элюент – дистилированная вода). Соби-рали окрашенную желто-коричневую фракцию (~ 10 мл), разбавляли глицерином (1 : 1) и храни-ли в морозильнике (при –18 оС).

Получение антисыворотки к кастастерону. Группу из десяти кроликов иммунизировали конъюгатом кастастерон–БСА с плотностью посадки 24 молекулы стероида на 1 молекулу белка. Каждому кролику вводили подкожно в 10–15 точек спины по 1 мг конъюгата, предварительно растворенного в 0,5 мл фосфатно-буферного 0,1 М раствора поваренной соли (рН 7,4) и эмуль-гированного в равном объеме полного адъюванта Фрейнда. Интервалы между инъекциями со-ставляли 3 недели. Иммунизацию продолжали в течение 6 месяцев, осуществляя периодический отбор проб крови из ушной вены животных. Полученные образцы сыворотки тестировали на наличие связывающей способности в отношении кастастерона и определяли их титры и значе-ния констант ассоциации. Титр определяли как рабочее разведение антисыворотки, обеспечи-вающее максимальную чувствительность тест-системы при таком связывании конъюгата, кото-рое позволяет построить калибровочный график в диапазоне 2,5–0,2 ОЕ.

Применение разработанного способа позволяет с высокой степенью селективности прово-дить иммуноферментное определение одного из самых активных брассиностероидов – брасси-нолида и его химического и биохимического предшественника кастастерона в концентрациях 0,2–0,3 нмоль/л, или 5–7 пг в 50 мкл образца.

Работа выполнена при финансовой поддержке БРФФИ (грант Х09К-029).

Литература 1. T a k a t s u t o S. // J. Chromatogr. A. 1994. Vol. 658, N 1. P. 3–15. 2. C r o i z i e r A., M o r i t z T. Biochemistry and molecular biology of plant hormones / Ed. G. Bernardi. Evsevier,

1999. P. 23–60. 3. G a m o h K., T a k a t s u t o S. // J. Chromatogr. A. 1994. Vol. 658, N 1. P. 17–25. 4. K h r i p a c h V. A., S v i r i d o v O. V., L i t v i n o v s k a y a R. P. et al. // Polish J. Chem. 2006. Vol. 80. P. 651–654. 5. Х р и п а ч В. А., С в и р и д о в О. В., П р я д к о А. Г. и др. // Биоорг. химия. 2007. Т. 33, № 3. С. 371–378. 6. Х р и п а ч В. А., Л и т в и н о в с к а я Р. П., Р а й м а н М. Э. // Весцi НАН Беларусi. Сер. хiм. навук. 2008.

№ 3. С. 47–58 7. K h r i p a c h V. A., Z h a b i n s k i i V., A n t o n c h i c k A. et al. // Natural Product Communications. 2008.

Vol. 3, N 5. Р. 735–748. 8. Y o k o t a T., W a n a b e S., O g i n o Y. et al. // J. Plant Growth Regul. 1990. Vol. 9. P. 151. 9. S c h l a g n h a u f e r C. D., A r t e c a R. N., P h i l l i p s A. T. // Plant Physiol. (Suppl.) 1988. Vol. 86. P. 113.

KHRIPACH V. A., LITVINOVSKAYA R. P., DRACH S. V., AVERKAVA M. A., ZHABINSKII V. N., SVIRIDOV O. V., PRYADKO A. G., NOVIK T. V., MATVEENTSEV V. D.

[email protected]

IMMUNOENZYME ASSAY OF (24S)-METHYLBRASSINOSTEROIDS

Summary Starting from castasterone phytohormone, the synthesis of haptenes was carried out for preparing castasterone-horseradish

peroxidase and castasterone-bovine serum albumin conjugates. On the base of castasterone-bovine serum albumin conjugate polyclonal antibodies were obtained. The immunoenzyme test-system was developed for quantitative determination of 24S-methylbrassinosteroids (castasterone and brassinolide).

86



БИОЛОГИЯ

УДК 633.521:57.085.2

Е. В. ГУЗЕНКО, В. А. ЛЕМЕШ, академик Л. В. ХОТЫЛЁВА

РИЗОГЕНЕЗ В КУЛЬТУРЕ IN VITRO У СОРТОВ ЛЬНА-ДОЛГУНЦА (LINUM USITATISSIMUM L.)

Институт генетики и цитологии НАН Беларуси, Минск Поступило 29.04.2009

Введение. Одним из наиболее динамично развивающихся направлений, ориентированных на создание нового исходного материала, является биотехнология. Лен достаточно пластичный в биотехнологическом отношении вид. Работы по введению его в культуру in vitro начались бо-лее 25 лет назад. Способность фрагментов гипокотиля льна образовывать побеги, которые могут впоследствии развиваться в полноценные растения, а также изолированных протопластов обра-зовывать каллусы с последующим ризогенезом была показана еще в 1976 г. [1]. Однако эффек-тивная прямая регенерация растений из каллусов [2; 3], а также из протопластов льна, в том чис-ле для ряда диких видов [4], была достигнута несколько позже.

Известные на сегодняшний день протоколы ведения культуры in vitro позволяют достаточно легко получать каллусную ткань и регенерировать побеги у льна-долгунца. Однако корнеобразо-вание (ризогенез) и последующая адаптация к почвенным условиям до сих пор остаются трудно-выполнимыми этапами из-за низкой адаптационной способности регенерантов данной культуры [5; 6]. Нами была предпринята попытка усовершенствовать методику получения корней у реге-нерантов льна-долгунца путем создания определенных условий культивирования, стимулирую-щих ризогенез.

Материалы и методы исследования. В качестве исходного материала использовали 3 сорта льна-долгунца белорусской селекции: Василек, Прамень, Старт. Семена любезно предоставлены Институтом льна Республики Беларусь. Эксплантами служили гипокотили 7-суточных пророст-ков длиной 3–5 мм. Стерилизованные семена проращивали на агаре (8 г/л) при 23 ºC и 16-ча- совом фотопериоде. Для индукции морфогенеза использовали среду MS 5524, дополненную фи-тогормонами (1 мг/л BAP (6-Benzyl-aminopurine), 0,05 мг/л NAA (α-Naphthalene-acetic acid)), и приготовленную на питьевой воде pH 5,7–5,8. Гипокотили инкубировали при температуре 23 ºC и 16-часовом фотопериоде.

Морфогенетический потенциал культуры оценивали как отношение количества каллусов с регенерационными структурами к общему количеству эксплантов, образовавших каллус. Эф-фективность регенерации определяли через 5 недель после начала культивирования как отноше-ние количества побегов (более 5 мм длиной) к общему количеству эксплантов. Для оценки ре-зультатов использовали не менее 30 эксплантов каждого сорта с трехкратным повторением. Ре-генерированные побеги длиной не менее 2 см укореняли на безгормональной среде MS 0404, содержащей половинный набор макросолей и витаминов, а также агар (7 г/л) и сахарозу (10 г/л), pH 5,7–5,8.

Результаты и их обсуждение. Для обеспечения максимальной генетической стабильности материала и избежания появления аномальных растений большое внимание уделяется выбору исходного экспланта. В этом качестве используют молодые, слабо дифференцированные ткани. Нами в качестве эксплантов выбраны гипокотили, так как в ряде работ показано, что данный тип экспланта является наиболее подходящим для успешной инициации каллуса, органогенеза и эм-бриогенеза у Linum usitatissimum [7; 8]. Морфогенетические процессы у гипокотильных сег-

86



БИОЛОГИЯ

УДК 633.521:57.085.2

Е. В. ГУЗЕНКО, В. А. ЛЕМЕШ, академик Л. В. ХОТЫЛЁВА

РИЗОГЕНЕЗ В КУЛЬТУРЕ IN VITRO У СОРТОВ ЛЬНА-ДОЛГУНЦА (LINUM USITATISSIMUM L.)

Институт генетики и цитологии НАН Беларуси, Минск Поступило 29.04.2009

Введение. Одним из наиболее динамично развивающихся направлений, ориентированных на создание нового исходного материала, является биотехнология. Лен достаточно пластичный в биотехнологическом отношении вид. Работы по введению его в культуру in vitro начались бо-лее 25 лет назад. Способность фрагментов гипокотиля льна образовывать побеги, которые могут впоследствии развиваться в полноценные растения, а также изолированных протопластов обра-зовывать каллусы с последующим ризогенезом была показана еще в 1976 г. [1]. Однако эффек-тивная прямая регенерация растений из каллусов [2; 3], а также из протопластов льна, в том чис-ле для ряда диких видов [4], была достигнута несколько позже.

Известные на сегодняшний день протоколы ведения культуры in vitro позволяют достаточно легко получать каллусную ткань и регенерировать побеги у льна-долгунца. Однако корнеобразо-вание (ризогенез) и последующая адаптация к почвенным условиям до сих пор остаются трудно-выполнимыми этапами из-за низкой адаптационной способности регенерантов данной культуры [5; 6]. Нами была предпринята попытка усовершенствовать методику получения корней у реге-нерантов льна-долгунца путем создания определенных условий культивирования, стимулирую-щих ризогенез.

Материалы и методы исследования. В качестве исходного материала использовали 3 сорта льна-долгунца белорусской селекции: Василек, Прамень, Старт. Семена любезно предоставлены Институтом льна Республики Беларусь. Эксплантами служили гипокотили 7-суточных пророст-ков длиной 3–5 мм. Стерилизованные семена проращивали на агаре (8 г/л) при 23 ºC и 16-ча- совом фотопериоде. Для индукции морфогенеза использовали среду MS 5524, дополненную фи-тогормонами (1 мг/л BAP (6-Benzyl-aminopurine), 0,05 мг/л NAA (α-Naphthalene-acetic acid)), и приготовленную на питьевой воде pH 5,7–5,8. Гипокотили инкубировали при температуре 23 ºC и 16-часовом фотопериоде.

Морфогенетический потенциал культуры оценивали как отношение количества каллусов с регенерационными структурами к общему количеству эксплантов, образовавших каллус. Эф-фективность регенерации определяли через 5 недель после начала культивирования как отноше-ние количества побегов (более 5 мм длиной) к общему количеству эксплантов. Для оценки ре-зультатов использовали не менее 30 эксплантов каждого сорта с трехкратным повторением. Ре-генерированные побеги длиной не менее 2 см укореняли на безгормональной среде MS 0404, содержащей половинный набор макросолей и витаминов, а также агар (7 г/л) и сахарозу (10 г/л), pH 5,7–5,8.

Результаты и их обсуждение. Для обеспечения максимальной генетической стабильности материала и избежания появления аномальных растений большое внимание уделяется выбору исходного экспланта. В этом качестве используют молодые, слабо дифференцированные ткани. Нами в качестве эксплантов выбраны гипокотили, так как в ряде работ показано, что данный тип экспланта является наиболее подходящим для успешной инициации каллуса, органогенеза и эм-бриогенеза у Linum usitatissimum [7; 8]. Морфогенетические процессы у гипокотильных сег-

87

ментов исследуемых сортов начинались в среднем на тре- тий день культивирования. Наблюдалось набухание сег- ментов, образование каллус-ных колец по срезам, возни-кали точки инициации побе-гов по длине экспланта. Про- цессы дедифференциации у всех исследованных сортов проходили довольно быстро, и уже через неделю от нача-ла культивирования на всех эксплантах формировался кал- лус, цвет которого варьиро-вал от светло-зеленого до тем- но-зеленого, структура – от плотной до сахаристой. Спу- стя 10–12 сут. на его поверхности формировались первые почки. В данных условиях культиви-рования исследуемые генотипы проявили высокую способность к морфогенетическому ответу. Эффективность каллусогенеза составила 100 % для всех исследованных генотипов. Результаты анализа полученных данных об эффективности органогенеза и регенерационной способности представлены на рис. 1. Наибольшим морфогенетическим потенциалом обладал сорт Прамень, тогда как регенерационная способность у сортов Василек и Старт была выше. При оценке эф-фективности регенерации не учитывались точки инициации, так как наши наблюдения показали, что данные структуры не всегда развиваются в побеги.

Следующим этапом при получении растений-регенерантов в культуре in vitro является пере-нос регенерировавших побегов на среду для ризогенеза. В широко используемых методах для получения корней у регенерантов льна меняют основной состав среды, уменьшая в два, а иногда и в четыре раза концентрацию минеральных солей по рецепту Мурасига и Скуга [6; 9] или заме-няют ее средой Уайта, уменьшают количество сахаров до 0,5–1 % и полностью исключают ци-токинины, оставляя один лишь ауксин [7]. В качестве стимулятора корнеобразования применяют β-индолил-3-масляную кислоту, β-индолил-уксусную кислоту [8] или β-нафтил-уксусную кисло-ту [8; 10]. Кроме этого, применяется затемнение нижней части сосуда, что также стимулирует корнеобразование.

Несмотря на варьирование состава сред способ получения корней у регенерированных побе-гов льна во всех методиках одинаков: побеги длиной 2–2,5 см отделяют от каллуса и заглубляют в выбранной среде так, чтобы побег сохранял вертикальное положение. В течение довольно дли-тельного промежутка времени (1–2 мес.) формируются корни. Эффективность ризогенеза доста-точно низкая – 10–20 % [5; 11]. Традиционный способ имеет существенные недостатки. При долгом культивировании растительных тканей на питательных средах происходит постепенное накопление веществ токсического действия (фенольные соединения), что приводит к формиро-ванию растений с измененной морфологией [12]. Возможно накопление этилена, вызывающего эпинастию и хлороз [12; 13]. Вместе с тем наблюдаются такие нежелательные эффекты, как по-давление пролиферации пазушных меристем, образование витрифицированных (оводненных) побегов и, как следствие, уменьшение способности растений к укоренению.

Мы разработали и использовали следующий способ стимулирования корнеобразования у ре-генерантов льна-долгунца. Регенерировавшие побеги длиной более 2 см переносили на среду для ризогенеза (MS с половинным набором макро- и микросолей), при этом побеги льна не за-глублялись в питательную среду, а культивировались на границе питательная среда/воздух (рис. 2). Ризогенез контрольных растений проходил при культивировании на среде аналогичного состава традиционным способом (побеги заглубляли).

0

20

40

60

80

100

120

140

160

180

200

Василек Прамень Старт

%

морфогенетический потенциал регенерационная способность

Рис. 1. Эффективность морфогенеза и регенерации сортов льна-долгунца

87

ментов исследуемых сортов начинались в среднем на тре- тий день культивирования. Наблюдалось набухание сег- ментов, образование каллус-ных колец по срезам, возни-кали точки инициации побе-гов по длине экспланта. Про- цессы дедифференциации у всех исследованных сортов проходили довольно быстро, и уже через неделю от нача-ла культивирования на всех эксплантах формировался кал- лус, цвет которого варьиро-вал от светло-зеленого до тем- но-зеленого, структура – от плотной до сахаристой. Спу- стя 10–12 сут. на его поверхности формировались первые почки. В данных условиях культиви-рования исследуемые генотипы проявили высокую способность к морфогенетическому ответу. Эффективность каллусогенеза составила 100 % для всех исследованных генотипов. Результаты анализа полученных данных об эффективности органогенеза и регенерационной способности представлены на рис. 1. Наибольшим морфогенетическим потенциалом обладал сорт Прамень, тогда как регенерационная способность у сортов Василек и Старт была выше. При оценке эф-фективности регенерации не учитывались точки инициации, так как наши наблюдения показали, что данные структуры не всегда развиваются в побеги.

Следующим этапом при получении растений-регенерантов в культуре in vitro является пере-нос регенерировавших побегов на среду для ризогенеза. В широко используемых методах для получения корней у регенерантов льна меняют основной состав среды, уменьшая в два, а иногда и в четыре раза концентрацию минеральных солей по рецепту Мурасига и Скуга [6; 9] или заме-няют ее средой Уайта, уменьшают количество сахаров до 0,5–1 % и полностью исключают ци-токинины, оставляя один лишь ауксин [7]. В качестве стимулятора корнеобразования применяют β-индолил-3-масляную кислоту, β-индолил-уксусную кислоту [8] или β-нафтил-уксусную кисло-ту [8; 10]. Кроме этого, применяется затемнение нижней части сосуда, что также стимулирует корнеобразование.

Несмотря на варьирование состава сред способ получения корней у регенерированных побе-гов льна во всех методиках одинаков: побеги длиной 2–2,5 см отделяют от каллуса и заглубляют в выбранной среде так, чтобы побег сохранял вертикальное положение. В течение довольно дли-тельного промежутка времени (1–2 мес.) формируются корни. Эффективность ризогенеза доста-точно низкая – 10–20 % [5; 11]. Традиционный способ имеет существенные недостатки. При долгом культивировании растительных тканей на питательных средах происходит постепенное накопление веществ токсического действия (фенольные соединения), что приводит к формиро-ванию растений с измененной морфологией [12]. Возможно накопление этилена, вызывающего эпинастию и хлороз [12; 13]. Вместе с тем наблюдаются такие нежелательные эффекты, как по-давление пролиферации пазушных меристем, образование витрифицированных (оводненных) побегов и, как следствие, уменьшение способности растений к укоренению.

Мы разработали и использовали следующий способ стимулирования корнеобразования у ре-генерантов льна-долгунца. Регенерировавшие побеги длиной более 2 см переносили на среду для ризогенеза (MS с половинным набором макро- и микросолей), при этом побеги льна не за-глублялись в питательную среду, а культивировались на границе питательная среда/воздух (рис. 2). Ризогенез контрольных растений проходил при культивировании на среде аналогичного состава традиционным способом (побеги заглубляли).

0

20

40

60

80

100

120

140

160

180

200

Василек Прамень Старт

%

морфогенетический потенциал регенерационная способность

Рис. 1. Эффективность морфогенеза и регенерации сортов льна-долгунца

88

Рис. 2. Образование корней на побегах льна-долгунца при культивировании без заглубления

При культивировании регенерантов без заглубления формирование корней проходило в ко-роткие сроки (рис. 3). На гистограмме представлены данные наблюдений за процессом ризогене-за, каждый символ обозначает побег, давший корень. Корнеобразование началось на 6-й день и закончилось на 24-й день у сорта Прамень. Основной период образования корней для всех ис-следованных генотипов составил 12 дней и наблюдался на 7–18 сут. Эффективность корнеоб- разования для сорта Василек составила 42,5 %, для сортов Прамень и Старт – по 66,7 %. Средняя величина эффективности ризогенеза для данных сортов льна-долгунца – 51,6 % (таблица). При

дальнейшем культивиро-вании побегов образова-ние корней не наблюда-лось.

При высадке растений традиционным способом, с заглублением побегов в среду для ризогенеза, корни в указанный пери-од ни у одного побега из исследованных генотипов не формировались (кон-трольный вариант).

Эффективность ризогенеза у регенерантов льна-долгунца, высаженных без заглубления

Сорт Высажено побегов, шт Выжило побегов, шт Укоренилось побегов, шт Эффективность ризогенеза, %

Василек 50 40 17 42,5 Прамень 30 12 8 66,7 Старт 30 12 8 66,7 Всего 110 64 33 51,6

Известно, что у молодых тканей с высоким содержанием физиологически активных метабо-

литов (в данном случае срез стебля регенерированного побега) интенсивность клеточного дыха-ния выше, чем у зрелой ткани. Также известно, что образование вторичных корней происходит из клеток камбия. Разработанный нами способ основан на улучшении аэрации камбиальной зо-ны стебля, что приводит к увеличению активности клеток этой зоны, и, следовательно, способ-ствует образованию корней. При культивировании традиционным способом (с заглублением по-бегов в среду культивирования) уменьшается аэрация нижней части стебля растения-регене- ранта. В таких условиях образование корней затруднено, а образовавшиеся корни обладают сниженной биосинтетической активностью, что замедляет поглощение воды и солей [14].

0 2 4 6 8 10 12 14 16 18 20 22 24 26 сут

Старт

Василек

Прамень

Рис. 3. Сроки формирования корней у регенерантов сортов льна-долгунца, высаженных без заглубления

88

Рис. 2. Образование корней на побегах льна-долгунца при культивировании без заглубления

При культивировании регенерантов без заглубления формирование корней проходило в ко-роткие сроки (рис. 3). На гистограмме представлены данные наблюдений за процессом ризогене-за, каждый символ обозначает побег, давший корень. Корнеобразование началось на 6-й день и закончилось на 24-й день у сорта Прамень. Основной период образования корней для всех ис-следованных генотипов составил 12 дней и наблюдался на 7–18 сут. Эффективность корнеоб- разования для сорта Василек составила 42,5 %, для сортов Прамень и Старт – по 66,7 %. Средняя величина эффективности ризогенеза для данных сортов льна-долгунца – 51,6 % (таблица). При

дальнейшем культивиро-вании побегов образова-ние корней не наблюда-лось.

При высадке растений традиционным способом, с заглублением побегов в среду для ризогенеза, корни в указанный пери-од ни у одного побега из исследованных генотипов не формировались (кон-трольный вариант).

Эффективность ризогенеза у регенерантов льна-долгунца, высаженных без заглубления

Сорт Высажено побегов, шт Выжило побегов, шт Укоренилось побегов, шт Эффективность ризогенеза, %

Василек 50 40 17 42,5 Прамень 30 12 8 66,7 Старт 30 12 8 66,7 Всего 110 64 33 51,6

Известно, что у молодых тканей с высоким содержанием физиологически активных метабо-

литов (в данном случае срез стебля регенерированного побега) интенсивность клеточного дыха-ния выше, чем у зрелой ткани. Также известно, что образование вторичных корней происходит из клеток камбия. Разработанный нами способ основан на улучшении аэрации камбиальной зо-ны стебля, что приводит к увеличению активности клеток этой зоны, и, следовательно, способ-ствует образованию корней. При культивировании традиционным способом (с заглублением по-бегов в среду культивирования) уменьшается аэрация нижней части стебля растения-регене- ранта. В таких условиях образование корней затруднено, а образовавшиеся корни обладают сниженной биосинтетической активностью, что замедляет поглощение воды и солей [14].

0 2 4 6 8 10 12 14 16 18 20 22 24 26 сут

Старт

Василек

Прамень

Рис. 3. Сроки формирования корней у регенерантов сортов льна-долгунца, высаженных без заглубления

89

Заключение. Поскольку лен, а в особенности лен-долгунец, имеет слаборазвитую корневую систему с недостаточной усваивающей функцией, адаптация растений-регенерантов к условиям ex vitro затруднительна. Развитие функциональной корневой системы при заглублении побега в среду культивирования осложнено тем, что из-за недостаточной аэрации не происходит форми-рования корневых волосков, а также корней второго порядка. Напротив, при культивировании на границе среда/воздух идет активное образование боковых корней и корневых волосков, что в дальнейшем положительно сказывается на процессе приспособления растений к условиям ex vitro.

Таким образом, индукция ризогенеза по разработанному методу позволяет успешно получать функциональные корни у растений-регенерантов льна-долгунца. В результате интенсивного раз-вития корневой системы возможно быстрое установление оптимального эндогенного баланса гормонов, что позволяет растениям легко адаптироваться к условиям выращивания ex vitro.


1. G a m b o r g O. L., S h y l u k J. P. // Bot. Gaz. 1976. Vol. 137. P. 301–306. 2. B r e t a g n e B., C h u p e a u M.-C., C h u p e a u Y., F o u i l l o u x G. // Plant. Cell. Rep. 1994. Vol. 14.

P. 120–124. 3. C u n h a A., F e r n a n d e s - F e r r e i r a M. // Plant. Cell. Tiss. Organ. Cult. 1996. Vol. 47. P. 1–8. 4. L i n g H. Q., B i n d i n g H. // J. Plant. Physiol. 1992. Vol. 139. P. 422–426. 5. П о л я к о в А. В. Биотехнология в селекции льна. Тверь, 2000. 6. P r e t o v a A., O b e r t B., B a r t o s o v a Z. // Biotechnology in Agriculture and Forestry. 2007. Vol. 6. P. 129–140. 7. W i j a y a n t o T e g u h, M c H u g h e n A l a n // In Vitro Cell. Dev. Biol. Plant. 1999. P. 456–465. 8. R u t k o w s k a - K r a u s e I., M a n k o w s k a G., P o l i a k o v A. V. // Natural Fibres. 2002. P. 92–101. 9. B u r b u l i s N., B l i n s t r u b i e n e A., K u p r i e n e R. et al. // Zemdirbyste. Agriculture. 2007. Vol. 94, N 4.

P. 120–128. 10. W a n g Yu Fu, K a n g Q i n g H u a, L i u Y a n et al. // J. Natural Fibres. 2004. Vol. 1 (1). P. 1–10. 11. П о л я к о в А. В., К е л ь н е р Е. В. // Технические культуры. М., 1991. С. 192–199. 12. К у з ь м и н а Н. А. Основы биотехнологии [Электронный ресурс]. – Режим доступа: http://www.biotechnolog.ru/. 13. Б а б и к о в а А. В., Г о р п е н ч е н к о Т. Ю., Ж у р а в л е в Ю. Н. // Комаровские чтения. Владивосток, 2007.

Вып. LV. С. 184–211. 14. К р а м е р П. Д., К о з л о в с к и й Т. Т. Физиология древесных растений. М., 1983.

GUZENKO E. V., LEMESH V. A., KHOTYLEVA L. V.

[email protected]

RHIZOGENESIS IN THE IN VITRO CULTURE IN FIBER FLAX (LINUM USITATISSIMUM L.) CULTIVARS

Summary

The technology for rhizogenesis induction in the in vitro culture was developed in fiber flax cultivars by creating certain culturing conditions stimulating rooting. Regenerated shoots 2 cm in length were transferred to a rhizogenesis medium (MS with a half set of macro- and microsalts). Flax shoots were not deepened into the nutrient medium and were cultured on the boundary – nutrient medium/air. A basic period of rooting for all the studied genotypes amounted to 12 days and was observed on 7–18 days. The mean value of the rhizogenesis efficiency made up 51.6 % for the fiber flax cultivars investigated. Rhizogenesis induction according to the developed technology allows successful production of functional roots in plant-regenerants of fiber flax.

89

Заключение. Поскольку лен, а в особенности лен-долгунец, имеет слаборазвитую корневую систему с недостаточной усваивающей функцией, адаптация растений-регенерантов к условиям ex vitro затруднительна. Развитие функциональной корневой системы при заглублении побега в среду культивирования осложнено тем, что из-за недостаточной аэрации не происходит форми-рования корневых волосков, а также корней второго порядка. Напротив, при культивировании на границе среда/воздух идет активное образование боковых корней и корневых волосков, что в дальнейшем положительно сказывается на процессе приспособления растений к условиям ex vitro.

Таким образом, индукция ризогенеза по разработанному методу позволяет успешно получать функциональные корни у растений-регенерантов льна-долгунца. В результате интенсивного раз-вития корневой системы возможно быстрое установление оптимального эндогенного баланса гормонов, что позволяет растениям легко адаптироваться к условиям выращивания ex vitro.


1. G a m b o r g O. L., S h y l u k J. P. // Bot. Gaz. 1976. Vol. 137. P. 301–306. 2. B r e t a g n e B., C h u p e a u M.-C., C h u p e a u Y., F o u i l l o u x G. // Plant. Cell. Rep. 1994. Vol. 14.

P. 120–124. 3. C u n h a A., F e r n a n d e s - F e r r e i r a M. // Plant. Cell. Tiss. Organ. Cult. 1996. Vol. 47. P. 1–8. 4. L i n g H. Q., B i n d i n g H. // J. Plant. Physiol. 1992. Vol. 139. P. 422–426. 5. П о л я к о в А. В. Биотехнология в селекции льна. Тверь, 2000. 6. P r e t o v a A., O b e r t B., B a r t o s o v a Z. // Biotechnology in Agriculture and Forestry. 2007. Vol. 6. P. 129–140. 7. W i j a y a n t o T e g u h, M c H u g h e n A l a n // In Vitro Cell. Dev. Biol. Plant. 1999. P. 456–465. 8. R u t k o w s k a - K r a u s e I., M a n k o w s k a G., P o l i a k o v A. V. // Natural Fibres. 2002. P. 92–101. 9. B u r b u l i s N., B l i n s t r u b i e n e A., K u p r i e n e R. et al. // Zemdirbyste. Agriculture. 2007. Vol. 94, N 4.

P. 120–128. 10. W a n g Yu Fu, K a n g Q i n g H u a, L i u Y a n et al. // J. Natural Fibres. 2004. Vol. 1 (1). P. 1–10. 11. П о л я к о в А. В., К е л ь н е р Е. В. // Технические культуры. М., 1991. С. 192–199. 12. К у з ь м и н а Н. А. Основы биотехнологии [Электронный ресурс]. – Режим доступа: http://www.biotechnolog.ru/. 13. Б а б и к о в а А. В., Г о р п е н ч е н к о Т. Ю., Ж у р а в л е в Ю. Н. // Комаровские чтения. Владивосток, 2007.

Вып. LV. С. 184–211. 14. К р а м е р П. Д., К о з л о в с к и й Т. Т. Физиология древесных растений. М., 1983.

GUZENKO E. V., LEMESH V. A., KHOTYLEVA L. V.

[email protected]

RHIZOGENESIS IN THE IN VITRO CULTURE IN FIBER FLAX (LINUM USITATISSIMUM L.) CULTIVARS

Summary

The technology for rhizogenesis induction in the in vitro culture was developed in fiber flax cultivars by creating certain culturing conditions stimulating rooting. Regenerated shoots 2 cm in length were transferred to a rhizogenesis medium (MS with a half set of macro- and microsalts). Flax shoots were not deepened into the nutrient medium and were cultured on the boundary – nutrient medium/air. A basic period of rooting for all the studied genotypes amounted to 12 days and was observed on 7–18 days. The mean value of the rhizogenesis efficiency made up 51.6 % for the fiber flax cultivars investigated. Rhizogenesis induction according to the developed technology allows successful production of functional roots in plant-regenerants of fiber flax.

90



УДК 577.21:632.38:635.21:631.524.86

Н. В. ПАВЛЮЧУК1, Е. В. ВОРОНКОВА1, А. А. БУЛОЙЧИК1, В. Л. МАХАНЬКО2, Н. В. РУСЕЦКИЙ2

СКРИНИНГ УСТОЙЧИВЫХ К L-ВИРУСУ ГЕНОТИПОВ КАРТОФЕЛЯ (SOLANUM TUBEROSUM) С ИСПОЛЬЗОВАНИЕМ ПЦР-МАРКЕРОВ

(Представлено академиком Н. А. Картелем) 1Институт генетики и цитологии НАН Беларуси, Минск 2НПЦ НАН Беларуси по картофелеводству и плодоовощеводству, Минск Поступило 03.06.2009

Введение. Несомненным преимуществом использования ДНК-маркеров в селекции является тот факт, что их можно успешно применять для тестирования признаков, для которых отбор по фенотипу труден или даже невозможен. Таким признаком является устойчивость к вирусу скру-чивания листьев картофеля (ВСЛК, или L-вирус), одному из наиболее вредоносных патогенов, поражающих эту культуру [1]. В данном случае отбор по фенотипу резистентных форм усложнен из-за передачи ВСЛК тлями и требует анализа не менее двух поколений (первично инфициро-ванных растений и их потомства).

Использование ДНК-маркеров позволило установить, что устойчивость к ВСЛК связана, по меньшей мере, с четырьмя локусами: двумя главными QTL – PLRV.1, PLRV.4 и двумя малыми QTL – PLRV.2, PLRV.3 [2; 3]. Локусы PLRV.1 и PLRV.4 картированы на ХI хромосоме. Малые QTL PLRV.2, PLRV.3 картированы на хромосомах VI и V соответственно [3]. Главные локусы PLRV.1 и PLRV.4 наследуются независимо друг от друга. Взаимодействие «сильного» локуса PLRV.1 с двумя «слабыми» способствует формированию устойчивости к L-вирусу, связанной с ингибированием размножения и аккумулирования вируса в клетках растения-хозяина.

В настоящее время для идентификации главных локусов, определяющих резистентность к ВСЛК, предложено несколько молекулярных маркеров, в частности ПЦР-маркер Nl271164, созданый на основе RFLP маркера Nl27, ассоциированного с основным QTL PLRV.1 [2; 3]. Marczewski с соавт. [2] показали, что Nl271164 обеспечивает 50–60 % фенотипической вариабельности по признаку устойчивости к вирусу скручивания листьев картофеля.

Цель работы – изучить возможность использования ПЦР-маркера Nl27 для отбора резистент-ных по этому признаку генотипов в исходном и селекционном материале картофеля, поскольку QTL PLRV.1 является «сильным» локусом, который вносит значительный вклад в формирование устойчивости к L-вирусу.

Материал и методы исследования. Материалом для исследования служили сорта отечест-венной и зарубежной селекции; образцы вида S. chacoense; гибридные формы, полученные с его участием (табл. 1).

Т а б л и ц а 1. Образцы S. chacoense и гибридные формы картофеля Образец Происхождение

К-22633-10 S.chacoense К-22633-6 S.chacoense К-22633-5 S.chacoense К-22633-3 S.chacoense 42у01-1 40dy99-5 (S. polytrichon p.44-1 × S. stoloniferum 32-13) × S. chacoense 200y04-9 47мy01(S. gourlayi × S. chacoense) × 41/30-1 (S. vernei) 234у04-11 147у01-6 (S. rybinii × S. chacoense) × S. kurtzianum 235dy04-6 S. chacoense PI-217451 × S. kurtzianum 472959-25L 236y04-8 S. chacoense K-2917 × S. kurtzianum

90



УДК 577.21:632.38:635.21:631.524.86

Н. В. ПАВЛЮЧУК1, Е. В. ВОРОНКОВА1, А. А. БУЛОЙЧИК1, В. Л. МАХАНЬКО2, Н. В. РУСЕЦКИЙ2

СКРИНИНГ УСТОЙЧИВЫХ К L-ВИРУСУ ГЕНОТИПОВ КАРТОФЕЛЯ (SOLANUM TUBEROSUM) С ИСПОЛЬЗОВАНИЕМ ПЦР-МАРКЕРОВ

(Представлено академиком Н. А. Картелем) 1Институт генетики и цитологии НАН Беларуси, Минск 2НПЦ НАН Беларуси по картофелеводству и плодоовощеводству, Минск Поступило 03.06.2009

Введение. Несомненным преимуществом использования ДНК-маркеров в селекции является тот факт, что их можно успешно применять для тестирования признаков, для которых отбор по фенотипу труден или даже невозможен. Таким признаком является устойчивость к вирусу скру-чивания листьев картофеля (ВСЛК, или L-вирус), одному из наиболее вредоносных патогенов, поражающих эту культуру [1]. В данном случае отбор по фенотипу резистентных форм усложнен из-за передачи ВСЛК тлями и требует анализа не менее двух поколений (первично инфициро-ванных растений и их потомства).

Использование ДНК-маркеров позволило установить, что устойчивость к ВСЛК связана, по меньшей мере, с четырьмя локусами: двумя главными QTL – PLRV.1, PLRV.4 и двумя малыми QTL – PLRV.2, PLRV.3 [2; 3]. Локусы PLRV.1 и PLRV.4 картированы на ХI хромосоме. Малые QTL PLRV.2, PLRV.3 картированы на хромосомах VI и V соответственно [3]. Главные локусы PLRV.1 и PLRV.4 наследуются независимо друг от друга. Взаимодействие «сильного» локуса PLRV.1 с двумя «слабыми» способствует формированию устойчивости к L-вирусу, связанной с ингибированием размножения и аккумулирования вируса в клетках растения-хозяина.

В настоящее время для идентификации главных локусов, определяющих резистентность к ВСЛК, предложено несколько молекулярных маркеров, в частности ПЦР-маркер Nl271164, созданый на основе RFLP маркера Nl27, ассоциированного с основным QTL PLRV.1 [2; 3]. Marczewski с соавт. [2] показали, что Nl271164 обеспечивает 50–60 % фенотипической вариабельности по признаку устойчивости к вирусу скручивания листьев картофеля.

Цель работы – изучить возможность использования ПЦР-маркера Nl27 для отбора резистент-ных по этому признаку генотипов в исходном и селекционном материале картофеля, поскольку QTL PLRV.1 является «сильным» локусом, который вносит значительный вклад в формирование устойчивости к L-вирусу.

Материал и методы исследования. Материалом для исследования служили сорта отечест-венной и зарубежной селекции; образцы вида S. chacoense; гибридные формы, полученные с его участием (табл. 1).

Т а б л и ц а 1. Образцы S. chacoense и гибридные формы картофеля Образец Происхождение

К-22633-10 S.chacoense К-22633-6 S.chacoense К-22633-5 S.chacoense К-22633-3 S.chacoense 42у01-1 40dy99-5 (S. polytrichon p.44-1 × S. stoloniferum 32-13) × S. chacoense 200y04-9 47мy01(S. gourlayi × S. chacoense) × 41/30-1 (S. vernei) 234у04-11 147у01-6 (S. rybinii × S. chacoense) × S. kurtzianum 235dy04-6 S. chacoense PI-217451 × S. kurtzianum 472959-25L 236y04-8 S. chacoense K-2917 × S. kurtzianum

91

Для выделения ДНК использовали ткани свежих или свежезамороженных листьев экспери-ментальных образцов, взятых в фазу бутонизации из средних ярусов куста (100–150 мг на одну пробу). Выделение и очистку ДНК осуществляли с помощью модифицированной методики Miniprep [4]. Концентрацию и степень очистки ДНК проверяли на спектрофотометре и при элек-трофорезе в 1 %-ном агарозном геле с использованием стандартного маркера длин фрагментов ДНК на 100 пар нуклеотидов (М-100) DIALAT Ltd (Москва).

При проведении реакции амплификации с ПЦР маркером Nl271164 были использованы усло-вия, предложенные разработчиками маркера [2]. Данные условия оказались приемлемыми для осуществления ПЦР с помощью автоматического программируемого термоциклера фирмы PE Applied Biosystems (США) (GenAmp System 2700) и используемого нами набора реактивов фир-мы DIALAT (Москва, Россия), поэтому в дальнейшем применялись нами без изменений при оценке коллекционных образцов. Амплификационная смесь содержала 50 нг препарата тотальной ДНК в конечном объеме, 1,5 mM MgCl2, 0,1 mM каждого из dNTP, 0,23 мкМ каждого из пары праймеров, 1 U Taq-полимеразы и рекомендуемого для данной полимеразы реакционного 10х-бу- фера в концентрации 10 % от объема смеси. Режим амплификации: первоначальная денатурация ДНК 93 ºC – 1 мин; затем 35 циклов денатурации при 93 ºC – 30 сек., отжига праймера при 62 ºC – 30 сек. и элонгации в течение 90 сек. при 72 ºC; конечная элонгация – 10 мин при 72 ºС. По- следовательность нуклеотидов прямого и обратного праймеров для идентификации маркера Nl271164 была следующей: прямой (F) 5′TAGAGAGCATTAAGAAGCTGC-3′; обратный (R) – 5′TTTTGCCTACTCCCGGCATG-3′. Праймеры синтезированы в фирме «Праймтех» (Минск, Беларусь).

Результаты и их обсуждение. Результаты ПЦР-теста образцов картофеля на присутствие локуса PLRV.1 представлены на электрофореграмме (рисунок) и в табл. 2. Как видно на рисунке, в положительном контроле выявлен четкий фрагмент длиной около 1200 п. н., заявленный как специфический для детекции локуса PLRV.1 [2]. В отрицательном контроле такого фрагмента не обнаружено. Скрининг 48 образцов картофеля с использованием пары специфических прайме-ров показал, что маркерная полоса в районе 1200 п. н., указывающая на наличие локуса PLRV.1, присутствует у 25 из них. Степень устойчивости этих форм к ВСЛК в баллах приведена в табл. 2.

Т а б л и ц а 2. Характеристика образцов картофеля по устойчивости к ВСЛК

Сортообразец Степень

устойчивости в баллах*

Наличие/отсутствие (+/–) маркерного

локуса NL27 (PLRV.1) Сортообразец

Степень устойчивости в баллах*


локуса NL27 (PLRV.1)

Albatros 9 + Акцент 5 – Anosta 5–8 – Атлант 8–9 + Apta 5–9 + Блакит 5 + Assia 8–9 – Верас 7–8 + Berber 3–8 + Веснянка 7 – Binella 5–8 + Ветразь 8–9 + Carla 8–9 + Дельфин 7 – Carlita 5–9 + Дубрава 7 + Carola 8 – Пранса 7–8 – Heidrun 8 – Рагнеда 5 + Kama 5–8 + Ресурс 8 + Karmoran 9 + Сузорье 5 – Krasa – – Уладар 9 + Mariella 8 + Универсал 9 – Miranda 5–8 + Янка 9 + Molli 5 + S.chacoense K-22633-10 – – Monalisa 5–8 + S.chacoense K-22633-3 – – Monza 3–5 – S.chacoense K-22633-5 – + Olga 2 – S.chacoense K-22633-6 – + Planta 5–8 + 42y01-1 – + Rita 9 – 235dy04-6 – – Sante 5–8 – 236y04-8 – – Valisa 9 – 200y04-9 – – Vineta 5–9 – 234y04-11 – –

П р и м е ч а н и е. * – 3 балла – низкая устойчивость; 5 – средняя; 7 – относительно высокая; 8 – высокая; 9 – очень высокая.

91

Для выделения ДНК использовали ткани свежих или свежезамороженных листьев экспери-ментальных образцов, взятых в фазу бутонизации из средних ярусов куста (100–150 мг на одну пробу). Выделение и очистку ДНК осуществляли с помощью модифицированной методики Miniprep [4]. Концентрацию и степень очистки ДНК проверяли на спектрофотометре и при элек-трофорезе в 1 %-ном агарозном геле с использованием стандартного маркера длин фрагментов ДНК на 100 пар нуклеотидов (М-100) DIALAT Ltd (Москва).

При проведении реакции амплификации с ПЦР маркером Nl271164 были использованы усло-вия, предложенные разработчиками маркера [2]. Данные условия оказались приемлемыми для осуществления ПЦР с помощью автоматического программируемого термоциклера фирмы PE Applied Biosystems (США) (GenAmp System 2700) и используемого нами набора реактивов фир-мы DIALAT (Москва, Россия), поэтому в дальнейшем применялись нами без изменений при оценке коллекционных образцов. Амплификационная смесь содержала 50 нг препарата тотальной ДНК в конечном объеме, 1,5 mM MgCl2, 0,1 mM каждого из dNTP, 0,23 мкМ каждого из пары праймеров, 1 U Taq-полимеразы и рекомендуемого для данной полимеразы реакционного 10х-бу- фера в концентрации 10 % от объема смеси. Режим амплификации: первоначальная денатурация ДНК 93 ºC – 1 мин; затем 35 циклов денатурации при 93 ºC – 30 сек., отжига праймера при 62 ºC – 30 сек. и элонгации в течение 90 сек. при 72 ºC; конечная элонгация – 10 мин при 72 ºС. По- следовательность нуклеотидов прямого и обратного праймеров для идентификации маркера Nl271164 была следующей: прямой (F) 5′TAGAGAGCATTAAGAAGCTGC-3′; обратный (R) – 5′TTTTGCCTACTCCCGGCATG-3′. Праймеры синтезированы в фирме «Праймтех» (Минск, Беларусь).

Результаты и их обсуждение. Результаты ПЦР-теста образцов картофеля на присутствие локуса PLRV.1 представлены на электрофореграмме (рисунок) и в табл. 2. Как видно на рисунке, в положительном контроле выявлен четкий фрагмент длиной около 1200 п. н., заявленный как специфический для детекции локуса PLRV.1 [2]. В отрицательном контроле такого фрагмента не обнаружено. Скрининг 48 образцов картофеля с использованием пары специфических прайме-ров показал, что маркерная полоса в районе 1200 п. н., указывающая на наличие локуса PLRV.1, присутствует у 25 из них. Степень устойчивости этих форм к ВСЛК в баллах приведена в табл. 2.

Т а б л и ц а 2. Характеристика образцов картофеля по устойчивости к ВСЛК

Сортообразец Степень

устойчивости в баллах*


локуса NL27 (PLRV.1) Сортообразец

Степень устойчивости в баллах*


локуса NL27 (PLRV.1)

Albatros 9 + Акцент 5 – Anosta 5–8 – Атлант 8–9 + Apta 5–9 + Блакит 5 + Assia 8–9 – Верас 7–8 + Berber 3–8 + Веснянка 7 – Binella 5–8 + Ветразь 8–9 + Carla 8–9 + Дельфин 7 – Carlita 5–9 + Дубрава 7 + Carola 8 – Пранса 7–8 – Heidrun 8 – Рагнеда 5 + Kama 5–8 + Ресурс 8 + Karmoran 9 + Сузорье 5 – Krasa – – Уладар 9 + Mariella 8 + Универсал 9 – Miranda 5–8 + Янка 9 + Molli 5 + S.chacoense K-22633-10 – – Monalisa 5–8 + S.chacoense K-22633-3 – – Monza 3–5 – S.chacoense K-22633-5 – + Olga 2 – S.chacoense K-22633-6 – + Planta 5–8 + 42y01-1 – + Rita 9 – 235dy04-6 – – Sante 5–8 – 236y04-8 – – Valisa 9 – 200y04-9 – – Vineta 5–9 – 234y04-11 – –

П р и м е ч а н и е. * – 3 балла – низкая устойчивость; 5 – средняя; 7 – относительно высокая; 8 – высокая; 9 – очень высокая.

92

Результаты амплификации с парой праймеров к маркеру NL27: 1 – Monalisa; 2 – Carla; 3 – Дельфин; 4 – Верас; 5 – Акцент; 6 – Атлант; 7 – Веснянка; 8 – Planta; 9 – Ресурс; 10 – Kama; 11 – Mariella; 12 – Apta; 13 – Albatros; 14 – Уладар; 15 – Рагнеда; 16 – Сузорье; М – маркер молекулярного веса; К+ – сорт Уладар (устойчивый контроль); К– – сорт Скарб (восприимчивый контроль); Nl27 – наличие специфического фрагмента 1200 п. н., соответствующего локусу PLRV.1

Следует отметить, что у целого ряда исследуемых образцов показатель степени устойчивости сильно варьирует, по данным разных исследователей [5–7]. Так, сорт Berber характеризуется устой-чивостью 3–8 баллов, сорта Sante, Miranda, Anosta, Binella, Monalisa, Planta, Kama имеют степень устойчивости 5–8 баллов, а сорта Carlita и Apta – 5–9 баллов (табл. 2). Такая неоднозначная оценка признака по фенотипу не может свидетельствовать о фактической устойчивости сорта. В то же время использование для этой цели молекулярных маркеров показало, что не все из пе-речисленных образцов несут QTL PLRV.1. На точность в оценке устойчивости к ВСЛК с помощью маркера Nl271164 указывает тот факт, что у образцов с низкой (Olga, Monza) и средней (Акцент, Сузорье) степенью устойчивости локус PLRV.1 не выявлен. Напротив, у другой группы сортов (Albatros, Ресурс, Carla, Mariella, Верас, Атлант, Уладар, Karmoran, Дубрава, Ветразь, Янка), имеющих устойчивость от относительно высокой до очень высокой [5–7], этот локус присутст-вует (табл. 2). Об эффективности использования молекулярных маркеров для определения рези-стентных к ВСЛК генотипов картофеля свидетельствуют данные о наличии QTL PLRV.1 у сор-тов Kama, Carla, Apta, известных как интолерантные [8]. Среди нескольких резистентных к L-ви- русу форм картофеля, таких как Heidrun, Carola, Assia специфический ПЦР-продукт отсутство-вал. Видимо, вклад в устойчивость к ВСЛК этих сортов вносит другой «сильный» локус PLRV.4, который также как PLRV.1 способен ограничивать размножение и накопление вируса в клетках растения-хозяина.

Скрининг с использованием ПЦР-анализа форм S. chacoense и гибридов, полученных с его участием (табл. 1), показал, что у трех образцов присутствует маркерный фрагмент 1200 п. н., соот-ветствующий QTL PLRV.1 (табл. 2). Известно, что S. chacoense, наряду с видами S. brevidens, S. etuberosum, обладает очень высоким уровнем устойчивости к ВСЛК [9]. Полученные данные позволяют предположить, что такой уровень резистентности к L-вирусу образцов вида S. chacoense – К-22633-6, К-22633-5 и гибрида 42у01-1, вероятно, связан с наличием у них «сильного» локуса PLRV.1.

Заключение. Таким образом, показана возможность использования маркера Nl27 для иден-тификации QTL PLRV.1, связанного с устойчивостью к ВСЛК. По результатам ПЦР-анализа отобрано 25 генотипов картофеля, несущих этот локус: 14 сортов зарубежной селекции, 8 сортов отечественной селекции, 2 образца S. chacoense и одна гибридная форма. Эти образцы являются ценным источником резистентности к ВСЛК и могут быть рекомендованы для включения в скре- щивания, направленные на получение устойчивых к вирусным патогенам сортов.


1. И в а н ю к В. Г., Б а н а д ы с е в С. А., Ж у р о м с к и й Г. К. Защита картофеля от болезней, вредителей и сорняков. Минск, 2005.

2. M a r c z e w s k i W., F l i s B., S y l l e r J. et al. // Molecular Plant-Microbe Interactions. 2001. Vol. 14, N 12. P. 1420–1425.

3. M a r c z e w s k i W., F l i s B., S y l l e r J. et al. // Theor. Appl. Genet. 2004. Vol. 109, N 8. P. 1604–1609.

92

Результаты амплификации с парой праймеров к маркеру NL27: 1 – Monalisa; 2 – Carla; 3 – Дельфин; 4 – Верас; 5 – Акцент; 6 – Атлант; 7 – Веснянка; 8 – Planta; 9 – Ресурс; 10 – Kama; 11 – Mariella; 12 – Apta; 13 – Albatros; 14 – Уладар; 15 – Рагнеда; 16 – Сузорье; М – маркер молекулярного веса; К+ – сорт Уладар (устойчивый контроль); К– – сорт Скарб (восприимчивый контроль); Nl27 – наличие специфического фрагмента 1200 п. н., соответствующего локусу PLRV.1

Следует отметить, что у целого ряда исследуемых образцов показатель степени устойчивости сильно варьирует, по данным разных исследователей [5–7]. Так, сорт Berber характеризуется устой-чивостью 3–8 баллов, сорта Sante, Miranda, Anosta, Binella, Monalisa, Planta, Kama имеют степень устойчивости 5–8 баллов, а сорта Carlita и Apta – 5–9 баллов (табл. 2). Такая неоднозначная оценка признака по фенотипу не может свидетельствовать о фактической устойчивости сорта. В то же время использование для этой цели молекулярных маркеров показало, что не все из пе-речисленных образцов несут QTL PLRV.1. На точность в оценке устойчивости к ВСЛК с помощью маркера Nl271164 указывает тот факт, что у образцов с низкой (Olga, Monza) и средней (Акцент, Сузорье) степенью устойчивости локус PLRV.1 не выявлен. Напротив, у другой группы сортов (Albatros, Ресурс, Carla, Mariella, Верас, Атлант, Уладар, Karmoran, Дубрава, Ветразь, Янка), имеющих устойчивость от относительно высокой до очень высокой [5–7], этот локус присутст-вует (табл. 2). Об эффективности использования молекулярных маркеров для определения рези-стентных к ВСЛК генотипов картофеля свидетельствуют данные о наличии QTL PLRV.1 у сор-тов Kama, Carla, Apta, известных как интолерантные [8]. Среди нескольких резистентных к L-ви- русу форм картофеля, таких как Heidrun, Carola, Assia специфический ПЦР-продукт отсутство-вал. Видимо, вклад в устойчивость к ВСЛК этих сортов вносит другой «сильный» локус PLRV.4, который также как PLRV.1 способен ограничивать размножение и накопление вируса в клетках растения-хозяина.

Скрининг с использованием ПЦР-анализа форм S. chacoense и гибридов, полученных с его участием (табл. 1), показал, что у трех образцов присутствует маркерный фрагмент 1200 п. н., соот-ветствующий QTL PLRV.1 (табл. 2). Известно, что S. chacoense, наряду с видами S. brevidens, S. etuberosum, обладает очень высоким уровнем устойчивости к ВСЛК [9]. Полученные данные позволяют предположить, что такой уровень резистентности к L-вирусу образцов вида S. chacoense – К-22633-6, К-22633-5 и гибрида 42у01-1, вероятно, связан с наличием у них «сильного» локуса PLRV.1.

Заключение. Таким образом, показана возможность использования маркера Nl27 для иден-тификации QTL PLRV.1, связанного с устойчивостью к ВСЛК. По результатам ПЦР-анализа отобрано 25 генотипов картофеля, несущих этот локус: 14 сортов зарубежной селекции, 8 сортов отечественной селекции, 2 образца S. chacoense и одна гибридная форма. Эти образцы являются ценным источником резистентности к ВСЛК и могут быть рекомендованы для включения в скре- щивания, направленные на получение устойчивых к вирусным патогенам сортов.


1. И в а н ю к В. Г., Б а н а д ы с е в С. А., Ж у р о м с к и й Г. К. Защита картофеля от болезней, вредителей и сорняков. Минск, 2005.

2. M a r c z e w s k i W., F l i s B., S y l l e r J. et al. // Molecular Plant-Microbe Interactions. 2001. Vol. 14, N 12. P. 1420–1425.

3. M a r c z e w s k i W., F l i s B., S y l l e r J. et al. // Theor. Appl. Genet. 2004. Vol. 109, N 8. P. 1604–1609.

93

4. В о р о н к о в а Е. В., Л и с о в с к а я В. М., Л у к ш а В. И., и др. // Весці НАН Беларусі. Сер. біял. навук. 2007. № 4. C. 42–50.

5. Г о н ч а р о в а Н. Н., К о з л о в а Л. Н., К о л я д к о И. И. и др. // Сорта картофеля: Каталог. Минск, 2007. 6. В о л о г д и н а Л. Н., Г о н ч а р о в а Н. Н., К о з л о в а Л. Н. и др. // Сорта картофеля: Каталог. Минск, 2005. 7. Международная Европейская база данных по картофелю / Европейская ассоциация исследователей по картофелю

EAPR [Электронный ресурс]. – Режим доступа: www.europotato.org. 8. Р о с с Х. Селекция картофеля. Проблемы и перспективы. М., 1989. 9. T a l i a n s k y M., M a y o M. A., B a r k e r H. // Molecular Plant Pathology. 2003. Vol. 4, N 2. P. 81–89.

PAVLYUCHUK N. V., VORONKOVA E. V., BULOICHIK A. A., MAKHANKO V. L., RUSETSKY N. V.

[email protected]

SCREENING OF L-VIRUS RESISTANT GENOTYPES OF POTATO (SOLANUM TUBEROSUM) USING PCR-MARKERS

Summary

Screening of 48 collection potato accessions for PLRV resistance was performed by the PCR-marker Nl27 identifying the locus PLRV.1 related to this trait. Based on the PCR-analysis results, 25 genotypes carrying QTL PLRV.1 were selected. The forms selected for the presence of this locus are recommended to be used in breeding programs as potential sources of resistance to the L-virus.

93

4. В о р о н к о в а Е. В., Л и с о в с к а я В. М., Л у к ш а В. И., и др. // Весці НАН Беларусі. Сер. біял. навук. 2007. № 4. C. 42–50.

5. Г о н ч а р о в а Н. Н., К о з л о в а Л. Н., К о л я д к о И. И. и др. // Сорта картофеля: Каталог. Минск, 2007. 6. В о л о г д и н а Л. Н., Г о н ч а р о в а Н. Н., К о з л о в а Л. Н. и др. // Сорта картофеля: Каталог. Минск, 2005. 7. Международная Европейская база данных по картофелю / Европейская ассоциация исследователей по картофелю

EAPR [Электронный ресурс]. – Режим доступа: www.europotato.org. 8. Р о с с Х. Селекция картофеля. Проблемы и перспективы. М., 1989. 9. T a l i a n s k y M., M a y o M. A., B a r k e r H. // Molecular Plant Pathology. 2003. Vol. 4, N 2. P. 81–89.

PAVLYUCHUK N. V., VORONKOVA E. V., BULOICHIK A. A., MAKHANKO V. L., RUSETSKY N. V.

[email protected]

SCREENING OF L-VIRUS RESISTANT GENOTYPES OF POTATO (SOLANUM TUBEROSUM) USING PCR-MARKERS

Summary

Screening of 48 collection potato accessions for PLRV resistance was performed by the PCR-marker Nl27 identifying the locus PLRV.1 related to this trait. Based on the PCR-analysis results, 25 genotypes carrying QTL PLRV.1 were selected. The forms selected for the presence of this locus are recommended to be used in breeding programs as potential sources of resistance to the L-virus.

94



МЕДИЦИНА

УДК 575.17:340.6

И. С. ЦЫБОВСКИЙ1, В. М. ВЕРЕМЕЙЧИК1, С. В. КРИЦКАЯ2, С. А. ЕВМЕНЕНКО2, С. М. ЛОБАЦЕВИЧ2, А. В. ПАВЛЮЧЕНКО2,

академик Н. А. КАРТЕЛЬ3, Л. А. ЖИВОТОВСКИЙ4

РЕФЕРЕНТНАЯ БАЗА ДАННЫХ АУТОСОМНЫХ ДНК-МАРКЕРОВ: ВОЗМОЖНОСТИ АНАЛИЗА БОЛЬШИХ МАССИВОВ ГЕНОТИПОВ

СОВРЕМЕННОГО НАСЕЛЕНИЯ БЕЛАРУСИ 1Центр судебных экспертиз и криминалистики Министерства юстиции Республики Беларусь, Минск 2Государственный экспертно-криминалистический центр Министерства внутренних дел Республики Беларусь, Минск 3Институт генетики и цитологии НАН Беларуси, Минск 4Институт общей генетики им. Н. И. Вавилова РАН, Москва Поступило 06.04.2009

Введение. Технологии идентификации биологических следов человека с использованием ДНК-маркеров прочно вошли в практику расследования широкого спектра преступлений. Вместе с тем этнорасовая вариабельность ДНК-маркеров определяет необходимость создания для кри-миналистического ДНК-анализа референтных (справочных) баз данных распределения ДНК-маркеров на основе исследования генетической структуры населения с учетом конкретных этни-ческих и исторических особенностей его формирования. Научно обоснованные принципы фор-мирования референтных баз данных ДНК-маркеров не выработаны: в научной литературе прак-тически отсутствуют рекомендации по созданию баз данных такого рода. Этим обусловлена не-обходимость получения сведений для криминалистического ДНК-анализа о генетических харак- теристиках современного населения как в целом, так и для отдельных этнических групп, его состав- ляющих.

В настоящей работе проведено исследование массива генотипов, представляющего часть ин-формации о генетических признаках лиц, помещенных в криминалистическую базу данных Ми-нистерства внутренних дел Республики Беларусь. Исследованный массив включает 9 626 инди-видуальных генотипов из 109 административных районов и 13 пенитенциарных учреждений.

Цель исследования – генетико-популяционный анализ большого массива генотипов современ-ного населения для выявления уровня региональных и других генетических различий и оценки возможности использования данной информации при формировании референтной базы данных аутосомных ДНК-маркеров.

Материалы и методы исследования. Исследовались два массива генотипов. Первый мас-сив – «криминалистический» – представляет собой генотипы лиц, проходящих по уголовным делам в качестве обвиняемых либо подозреваемых, а также осужденных, которые отбывают на-казание в местах лишения свободы. Генетические ДНК-профили аутосомных локусов указанной категории граждан находятся в базе данных автоматизированной идентификационной системы генно-дактилоскопических учетов (АИСГДУ) Государственного экспертно-криминалистического центра МВД Республики Беларусь.

Исследуемый «криминалистический» массив представлял собой совокупность 9 626 геноти-пов из 109 административных районов и 13 мест содержания заключенных. Генотипы были объ-единены в отдельные выборки в соответствии с административно-территориальной принадлеж-ностью органов, направивших образцы. Генотипы, представляющие областные и крупные район-

94



МЕДИЦИНА

УДК 575.17:340.6

И. С. ЦЫБОВСКИЙ1, В. М. ВЕРЕМЕЙЧИК1, С. В. КРИЦКАЯ2, С. А. ЕВМЕНЕНКО2, С. М. ЛОБАЦЕВИЧ2, А. В. ПАВЛЮЧЕНКО2,

академик Н. А. КАРТЕЛЬ3, Л. А. ЖИВОТОВСКИЙ4

РЕФЕРЕНТНАЯ БАЗА ДАННЫХ АУТОСОМНЫХ ДНК-МАРКЕРОВ: ВОЗМОЖНОСТИ АНАЛИЗА БОЛЬШИХ МАССИВОВ ГЕНОТИПОВ

СОВРЕМЕННОГО НАСЕЛЕНИЯ БЕЛАРУСИ 1Центр судебных экспертиз и криминалистики Министерства юстиции Республики Беларусь, Минск 2Государственный экспертно-криминалистический центр Министерства внутренних дел Республики Беларусь, Минск 3Институт генетики и цитологии НАН Беларуси, Минск 4Институт общей генетики им. Н. И. Вавилова РАН, Москва Поступило 06.04.2009

Введение. Технологии идентификации биологических следов человека с использованием ДНК-маркеров прочно вошли в практику расследования широкого спектра преступлений. Вместе с тем этнорасовая вариабельность ДНК-маркеров определяет необходимость создания для кри-миналистического ДНК-анализа референтных (справочных) баз данных распределения ДНК-маркеров на основе исследования генетической структуры населения с учетом конкретных этни-ческих и исторических особенностей его формирования. Научно обоснованные принципы фор-мирования референтных баз данных ДНК-маркеров не выработаны: в научной литературе прак-тически отсутствуют рекомендации по созданию баз данных такого рода. Этим обусловлена не-обходимость получения сведений для криминалистического ДНК-анализа о генетических харак- теристиках современного населения как в целом, так и для отдельных этнических групп, его состав- ляющих.

В настоящей работе проведено исследование массива генотипов, представляющего часть ин-формации о генетических признаках лиц, помещенных в криминалистическую базу данных Ми-нистерства внутренних дел Республики Беларусь. Исследованный массив включает 9 626 инди-видуальных генотипов из 109 административных районов и 13 пенитенциарных учреждений.

Цель исследования – генетико-популяционный анализ большого массива генотипов современ-ного населения для выявления уровня региональных и других генетических различий и оценки возможности использования данной информации при формировании референтной базы данных аутосомных ДНК-маркеров.

Материалы и методы исследования. Исследовались два массива генотипов. Первый мас-сив – «криминалистический» – представляет собой генотипы лиц, проходящих по уголовным делам в качестве обвиняемых либо подозреваемых, а также осужденных, которые отбывают на-казание в местах лишения свободы. Генетические ДНК-профили аутосомных локусов указанной категории граждан находятся в базе данных автоматизированной идентификационной системы генно-дактилоскопических учетов (АИСГДУ) Государственного экспертно-криминалистического центра МВД Республики Беларусь.

Исследуемый «криминалистический» массив представлял собой совокупность 9 626 геноти-пов из 109 административных районов и 13 мест содержания заключенных. Генотипы были объ-единены в отдельные выборки в соответствии с административно-территориальной принадлеж-ностью органов, направивших образцы. Генотипы, представляющие областные и крупные район-

95

ные города, рассматривались по возможности отдельно от генотипов, собранных в тех же адми-нистративных районах. Аналогично поступали и при наличии на территории района крупного промышленного города.

Второй массив – «этнические белорусы» – сформирован из образцов буккального эпителия неродственных индивидуумов, проходивших тест на установление отцовства и при доброволь-ном анкетировании указавших для себя и своих родителей национальную принадлежность «бе-лорус».

Выделение и очистку ДНК из образцов проводили в соответствии с описанными ранее мето-дами [1–2].

Анализ полиморфизма 15 тетрануклеотидных STR-локусов проводили с использованием на-бора реактивов AmpFlSTR Identifiler™ PCR Amplification Kit (Applied Biosystems, США) [3]. Идентификацию аллелей осуществляли на автоматических ДНК-секвенаторах ABI Prism 3130 XL Genetic Analyzer (Applied Biosystem, США) и MegaBACE 750 (Amersham Biosciences, США) в режиме генотипирования с использованием внутренних стандартов размера GeneScan-500 LIZ Size Standard и ET550-R Size Standard соответственно. Рассчитанные частоты встречаемости алле-лей исследованных локусов приведены в табл. 1.

Статистический анализ полученных результатов проводили в соответствии с описанными ранее методами [1–2], а также с использованием программного продукта FSTAT [4].

Результаты и их обсуждение. Анализ генетического равновесия «криминалистического» мас-сива проводили с использованием критерия χ2 и точного теста Фишера. Из 1 830 тестов на соот-ветствие пропорции Харди–Вайнберга (15 локусов в 122 группах) в 94 уровень значимости P оказался меньше 0,05. После коррекции Бонферони для каждой выборки отдельно при соотнесе-нии на 15 локус-тестов статистически значимыми остались 8 значений. Однако при проведении коррекции Бонферони с соотнесением на 1 830 тестов все значения оказались статистически не-значимыми.

Среди 12 810 тестов на попарное неравновесие между локусами (105 пар межлокусных срав-нений в 122 группах) 756 тестов имели значение P < 0,05. После коррекции Бонферони при соот-несении на все сравниваемые выборки ни одно из них не оказалось статистически значимым.

На основании отнесения административных районов Беларуси к тому или иному региону [5] оба исследованных массива были разделены по происхождению образцов на 6 этнотерритори-альных региональных групп. «Криминалистический» массив – Поозерье (n = 886), Поднепровье (n = 994), Понеманье (n = 368), Центр (n = 4 472), Западное (n = 1 739) и Восточное (n = 1 167) Полесье. «Этнические белорусы»: Поозерье (n = 251), Поднепровье (n = 179), Понеманье (n = 128), Центр (n = 496), Западное (n = 244) и Восточное (n = 227) Полесье.

Полученные региональные группы отдельно для каждого из массивов были также проанали-зированы на соответствие генетическому равновесию. В обоих случаях не было выявлено значи-мых отклонений региональных групп от равновесия Харди–Вайнберга.

Таким образом, параметры генетического равновесия в выборках «криминалистического» массива генотипов в целом совпадают с результатами исследования популяционных выборок, описанных нами ранее [1–2].

Оценка внутри- и межрегиональной гомогенности частот встречаемости аллелей. На основе полиморфизма 15 STR-локусов между региональными группами были рассчитаны значения гене-тических расстояний по Nei, которые выявили высокую гомогенность между региональными груп-пами «криминалистического» массива.

Однако при анализе попарных значений FST между шестью этнотерриториальными группами «криминалистического» массива наблюдались статистически значимые различия при сравнении Западного Полесья с Поозерьем и Центром даже после применения поправки Бонферони (Р < 0,05). Внутри группы Западного Полесья значимая дифференциация была выявлена только для выборки из Столинского района при сравнении ее с 5 из 14 административных выборок. В случае исключения выборки Столинского района из региональной группы Западного Полесья исчезали и статистически значимые различия между всеми этнотерриториальными регионами Беларуси.

95

ные города, рассматривались по возможности отдельно от генотипов, собранных в тех же адми-нистративных районах. Аналогично поступали и при наличии на территории района крупного промышленного города.

Второй массив – «этнические белорусы» – сформирован из образцов буккального эпителия неродственных индивидуумов, проходивших тест на установление отцовства и при доброволь-ном анкетировании указавших для себя и своих родителей национальную принадлежность «бе-лорус».

Выделение и очистку ДНК из образцов проводили в соответствии с описанными ранее мето-дами [1–2].

Анализ полиморфизма 15 тетрануклеотидных STR-локусов проводили с использованием на-бора реактивов AmpFlSTR Identifiler™ PCR Amplification Kit (Applied Biosystems, США) [3]. Идентификацию аллелей осуществляли на автоматических ДНК-секвенаторах ABI Prism 3130 XL Genetic Analyzer (Applied Biosystem, США) и MegaBACE 750 (Amersham Biosciences, США) в режиме генотипирования с использованием внутренних стандартов размера GeneScan-500 LIZ Size Standard и ET550-R Size Standard соответственно. Рассчитанные частоты встречаемости алле-лей исследованных локусов приведены в табл. 1.

Статистический анализ полученных результатов проводили в соответствии с описанными ранее методами [1–2], а также с использованием программного продукта FSTAT [4].

Результаты и их обсуждение. Анализ генетического равновесия «криминалистического» мас-сива проводили с использованием критерия χ2 и точного теста Фишера. Из 1 830 тестов на соот-ветствие пропорции Харди–Вайнберга (15 локусов в 122 группах) в 94 уровень значимости P оказался меньше 0,05. После коррекции Бонферони для каждой выборки отдельно при соотнесе-нии на 15 локус-тестов статистически значимыми остались 8 значений. Однако при проведении коррекции Бонферони с соотнесением на 1 830 тестов все значения оказались статистически не-значимыми.

Среди 12 810 тестов на попарное неравновесие между локусами (105 пар межлокусных срав-нений в 122 группах) 756 тестов имели значение P < 0,05. После коррекции Бонферони при соот-несении на все сравниваемые выборки ни одно из них не оказалось статистически значимым.

На основании отнесения административных районов Беларуси к тому или иному региону [5] оба исследованных массива были разделены по происхождению образцов на 6 этнотерритори-альных региональных групп. «Криминалистический» массив – Поозерье (n = 886), Поднепровье (n = 994), Понеманье (n = 368), Центр (n = 4 472), Западное (n = 1 739) и Восточное (n = 1 167) Полесье. «Этнические белорусы»: Поозерье (n = 251), Поднепровье (n = 179), Понеманье (n = 128), Центр (n = 496), Западное (n = 244) и Восточное (n = 227) Полесье.

Полученные региональные группы отдельно для каждого из массивов были также проанали-зированы на соответствие генетическому равновесию. В обоих случаях не было выявлено значи-мых отклонений региональных групп от равновесия Харди–Вайнберга.

Таким образом, параметры генетического равновесия в выборках «криминалистического» массива генотипов в целом совпадают с результатами исследования популяционных выборок, описанных нами ранее [1–2].

Оценка внутри- и межрегиональной гомогенности частот встречаемости аллелей. На основе полиморфизма 15 STR-локусов между региональными группами были рассчитаны значения гене-тических расстояний по Nei, которые выявили высокую гомогенность между региональными груп-пами «криминалистического» массива.

Однако при анализе попарных значений FST между шестью этнотерриториальными группами «криминалистического» массива наблюдались статистически значимые различия при сравнении Западного Полесья с Поозерьем и Центром даже после применения поправки Бонферони (Р < 0,05). Внутри группы Западного Полесья значимая дифференциация была выявлена только для выборки из Столинского района при сравнении ее с 5 из 14 административных выборок. В случае исключения выборки Столинского района из региональной группы Западного Полесья исчезали и статистически значимые различия между всеми этнотерриториальными регионами Беларуси.

96

Т а б л и ц а

1. Частота

встречаемости

аллелей

аутосом

ных

STR

-локусов

в «крим

иналистическом

» массиве

генотип

ов

Локусы

Локусы

Аллели

D3S

1358

vW

A

TH01

TP

OX

C

SF1P

O

D5S

818

D13

S317

D

7S82

0 D

16S5

39

D18

S51

D8S

1179

D

2S13

38

D19

S433

Аллели

D21

S11

FGA

n 91

10

8942

90

30

9159

90

48

9189

90

09

8847

91

87

8821

89

72

8985

89

61

92

17

8751

5

0,00

01

16

0,

0002

6

0,23

67

0,00

03

0,00

04

0,

0001

17

0,00

05

7

0,

1316

0,

0007

0,

0005

0,

0046

0,

0132

0,

0002

0,

0001

18

0,01

27

8

0,

0957

0,

5738

0,

0014

0,

0014

0,

1468

0,

1414

0,

0091

0,00

90

18.2

0,00

00

9

0,

2091

0,

0934

0,

0481

0,

0539

0,

1487

0,

0845

0,

0876

0,

0002

0,

0091

0,00

01

19

0,

0894

9.

3

0,

3214

19

.2

0,

0002

10

0,

0050

0,

0550

0,

2876

0,

0911

0,

2852

0,

0515

0,

0475

0,

0057

0,

0611

0,00

12

20

0,

1516

11

0,

0001

0,

0001

0,

0004

* 0,

2504

0,

2814

0,

3232

0,

2288

0,

3743

0,

2848

0,

0171

0,

0683

0,00

25

20.2

0,00

06

12

0,00

03

0,00

01

0,

0260

0,

3033

0,

3570

0,

1460

0,

2333

0,

3428

0,

0944

0,

1766

0,09

01

21

0,

1824

12

.2

0,00

12

21.2

0,00

17

13

0,00

18

0,00

40

0,

0004

0,

0621

0,

1571

0,

0278

0,

0774

0,

1953

0,

1012

0,

3288

0,21

52

22

0,

2124

13

.2

0,02

10

22.2

0,00

55

14

0,13

57

0,09

51

0,01

19

0,01

03

0,00

33

0,03

59

0,03

13

0,15

30

0,22

36

0,

3630

23

0,12

11

14.2

0,

0190

23

.2

0,

0035

15

0,

2485

0,

1132

0,

0032

0,

0014

0,

0002

0,

0015

0,

0016

0,

1750

0,

1014

0,

0012

0,

1671

24

0,11

92

15.2

0,

0426

24

.2

0,00

01

0,00

06

16

0,25

42

0,18

32

0,

0001

0,17

42

0,01

99

0,04

17

0,04

20

25

0,00

01

0,07

04

16.2

0,

0248

25

.2

0,

0001

17

0,

2096

0,

2845

0,12

27

0,00

17

0,21

40

0,00

33

26

0,00

21

0,02

31

17.2

0,

0066

26

.2

0,

0001

18

0,

1400

0,

2244

0,08

01

0,00

04

0,08

00

27

0,

0230

0,

0041

18

.2

0,00

03

28

0,17

60

0,00

05

19

0,00

98

0,08

19

0,

0372

0,11

91

28

.2

0,00

01

20

0,01

27

0,

0211

0,15

34

29

0,

2026

0,

0002

21

0,00

08

0,

0106

0,03

82

29

.2

0,00

17

22

0,00

48

0,

0224

30

0,21

22

23

0,00

20

0,

0882

30.2

0,

0701

24

0,

0005

0,09

66

31

0,

0671

25

0,

0002

0,11

94

31

.2

0,08

27

26

0,02

30

32

0,

0097

27

0,

0023

32.2

0,

1076

28

0,

0007

33

0,00

14

33

.2

0,03

91

34

0,

0003

34.2

0,

0039

35

0,00

02

35

.2

0,00

01

П

р и

м е

ч а

н и

е.

* – сумм

арная частота встречаемо

сти для аллелей

10.3

и 1

1.

96

96


1. Частота

встречаемости

аллелей

аутосом

ных

STR

-локусов

в «крим

иналистическом

» массиве

генотип

ов

Локусы

Локусы

Аллели

D3S

1358

vW

A

TH01

TP

OX

C

SF1P

O

D5S

818

D13

S317

D

7S82

0 D

16S5

39

D18

S51

D8S

1179

D

2S13

38

D19

S433

Аллели

D21

S11

FGA

n 91

10

8942

90

30

9159

90

48

9189

90

09

8847

91

87

8821

89

72

8985

89

61

92

17

8751

5

0,00

01

16

0,

0002

6

0,23

67

0,00

03

0,00

04

0,

0001

17

0,00

05

7

0,

1316

0,

0007

0,

0005

0,

0046

0,

0132

0,

0002

0,

0001

18

0,01

27

8

0,

0957

0,

5738

0,

0014

0,

0014

0,

1468

0,

1414

0,

0091

0,00

90

18.2

0,00

00

9

0,

2091

0,

0934

0,

0481

0,

0539

0,

1487

0,

0845

0,

0876

0,

0002

0,

0091

0,00

01

19

0,

0894

9.

3

0,

3214

19

.2

0,

0002

10

0,

0050

0,

0550

0,

2876

0,

0911

0,

2852

0,

0515

0,

0475

0,

0057

0,

0611

0,00

12

20

0,

1516

11

0,

0001

0,

0001

0,

0004

* 0,

2504

0,

2814

0,

3232

0,

2288

0,

3743

0,

2848

0,

0171

0,

0683

0,00

25

20.2

0,00

06

12

0,00

03

0,00

01

0,

0260

0,

3033

0,

3570

0,

1460

0,

2333

0,

3428

0,

0944

0,

1766

0,09

01

21

0,

1824

12

.2

0,00

12

21.2

0,00

17

13

0,00

18

0,00

40

0,

0004

0,

0621

0,

1571

0,

0278

0,

0774

0,

1953

0,

1012

0,

3288

0,21

52

22

0,

2124

13

.2

0,02

10

22.2

0,00

55

14

0,13

57

0,09

51

0,01

19

0,01

03

0,00

33

0,03

59

0,03

13

0,15

30

0,22

36

0,

3630

23

0,12

11

14.2

0,

0190

23

.2

0,

0035

15

0,

2485

0,

1132

0,

0032

0,

0014

0,

0002

0,

0015

0,

0016

0,

1750

0,

1014

0,

0012

0,

1671

24

0,11

92

15.2

0,

0426

24

.2

0,00

01

0,00

06

16

0,25

42

0,18

32

0,

0001

0,17

42

0,01

99

0,04

17

0,04

20

25

0,00

01

0,07

04

16.2

0,

0248

25

.2

0,

0001

17

0,

2096

0,

2845

0,12

27

0,00

17

0,21

40

0,00

33

26

0,00

21

0,02

31

17.2

0,

0066

26

.2

0,

0001

18

0,

1400

0,

2244

0,08

01

0,00

04

0,08

00

27

0,

0230

0,

0041

18

.2

0,00

03

28

0,17

60

0,00

05

19

0,00

98

0,08

19

0,

0372

0,11

91

28

.2

0,00

01

20

0,01

27

0,

0211

0,15

34

29

0,

2026

0,

0002

21

0,00

08

0,

0106

0,03

82

29

.2

0,00

17

22

0,00

48

0,

0224

30

0,21

22

23

0,00

20

0,

0882

30.2

0,

0701

24

0,

0005

0,09

66

31

0,

0671

25

0,

0002

0,11

94

31

.2

0,08

27

26

0,02

30

32

0,

0097

27

0,

0023

32.2

0,

1076

28

0,

0007

33

0,00

14

33

.2

0,03

91

34

0,

0003

34.2

0,

0039

35

0,00

02

35

.2

0,00

01

П

р и

м е

ч а

н и

е.

* – сумм

арная частота встречаемо

сти для аллелей

10.3

и 1

1.

96

97

Оценка природы внутри- и межрегиональных различий. Для уточнения природы межрегио-нальных различий была проведена оценка значений FST между «криминалистическими» и «этни-чески белорусскими» группами. Для объективности картины были добавлены анкетированные популяционные выборки других восточных славян: украинцев из Харькова (n = 115) и русских из Москвы (n = 166) [1]. При этом никаких статистически значимых различий, кроме описанных выше различий «криминалистических» групп Западного Полесья, Центра и Поозерья, не было выявлено ни в сравнении с группами этнических белорусов, ни в сравнении с выборками украин-цев и русских. Результаты исследований указывают на то, что выборка Столинского района (n = 365) из группы Западного Полесья содержит значительное количество генотипов лиц, этни-чески не родственных восточным славянам, в связи с чем в ходе дальнейшего исследования она не рассматривалась.

Таким образом, совокупный генетический «портрет» аутосомных ДНК-маркеров трех иссле-дованных этносов восточных славян не выявляет значимых различий. Следует отметить, что евро-пейские популяции также не показывают значительной дифференциации по STR-локусам [6].

Оценка искусственных сообществ и миграционных влияний. «Криминалистический» массив содержит 13 выборок генотипов лиц, отбывающих наказание в местах лишения свободы. Оценку данных сообществ проводили в сравнении с выборками, представляющими административные районы и их центры, на территории которых находятся пенитенциарные учреждения (всего 17), а также с выборками «этнических белорусов». Анализ значений коэффициентов генетических расстояний между исследованными 30 группами выявил их гомогенность, а уровень значимости попарных значений FST между ними оказался статистически незначимым (P > 0,05). Таким образом, совокупный генетический «портрет» сообществ, образовавшихся в местах содержания осужден-ных, в целом сопоставим с генетическими характеристиками современного населения Беларуси.

Не отмечено никаких различий между населением городов-новостроек со значительным ми-грационным вливанием (такими как Новополоцк, Жодино, Светлогорск и др.) и выборками из тех же или соседних административных районов, представляющих собой преимущественно на-селение с сельскохозяйственным укладом жизни.

Сравнительный «гено-географический» анализ. Кроме восточных славян (этнические белору- сы и их географические соседи – украинцы и русские) для сравнительного анализа были взяты географически удаленная выборка южных славян (сербы, n = 200 [7]) и выборки изолированных от Восточной Европы жителей США: белых американцев (n = 302), афро-американцев (n = 258) и латиноамериканцев (n = 140) [8]. Все «криминалистические» и «этнически белорусские» ре-гиональные группы статистически значимо отличаются не только от афро-американцев и лати-ноамериканцев, но и от белых американцев (Р < 0,05) как при оценке методом G-статистики на основе частот встречаемости аллелей, так и при оценке попарных значений FST.

На следующем этапе был проведен анализ характера распределения частот встречаемости аллелей STR-локусов в «криминалистических» (табл. 1) и «этнически белорусских» группах ме-тодом G-статистики в сравнении с данными, полученными при исследовании населения Украины, России и Польши. Полученные результаты приведены в табл. 2.

Все этнотерриториальные группы из Беларуси отличаются не только от выборок афро-аме- риканцев и латиноамериканцев, но и белых американцев. «Криминалистический» массив также отличается от сербов, а в выборке «этнических белорусов» отличия с сербами выявляются во всех регионах, кроме Восточного Полесья и Поднепровья. Таким образом, «гено-географический» подход выявляет внутреннюю гетерогенность населения Беларуси: восточные регионы демонст-рируют некоторое отличие аутосомных ДНК-маркеров, не достигающее статистически значимого уровня. Возможной причиной данных отличий могут быть исторические миграции на восток нынешней Беларуси переселенцев из Российской империи («староверы», или «раскольники»). Существование незначительной внутренней гетерогенности массивов генотипов отмечено и при исследовании населения Польши.

С русскими из различных регионов России [1; 9; 10] и украинцами [1] «криминалистическая» база отличается только в локусе D3S1358, остальные локусы не показали статистически значи-мых отличий.

При сравнении с выборками поляков (10 STR-локусов при n = 2176 [11] и 13 STR-локусов при n = 870 [12]) статистически значимые различия либо не были выявлены вообще, либо были минимальными (в локусе D21S11).

97

Оценка природы внутри- и межрегиональных различий. Для уточнения природы межрегио-нальных различий была проведена оценка значений FST между «криминалистическими» и «этни-чески белорусскими» группами. Для объективности картины были добавлены анкетированные популяционные выборки других восточных славян: украинцев из Харькова (n = 115) и русских из Москвы (n = 166) [1]. При этом никаких статистически значимых различий, кроме описанных выше различий «криминалистических» групп Западного Полесья, Центра и Поозерья, не было выявлено ни в сравнении с группами этнических белорусов, ни в сравнении с выборками украин-цев и русских. Результаты исследований указывают на то, что выборка Столинского района (n = 365) из группы Западного Полесья содержит значительное количество генотипов лиц, этни-чески не родственных восточным славянам, в связи с чем в ходе дальнейшего исследования она не рассматривалась.

Таким образом, совокупный генетический «портрет» аутосомных ДНК-маркеров трех иссле-дованных этносов восточных славян не выявляет значимых различий. Следует отметить, что евро-пейские популяции также не показывают значительной дифференциации по STR-локусам [6].

Оценка искусственных сообществ и миграционных влияний. «Криминалистический» массив содержит 13 выборок генотипов лиц, отбывающих наказание в местах лишения свободы. Оценку данных сообществ проводили в сравнении с выборками, представляющими административные районы и их центры, на территории которых находятся пенитенциарные учреждения (всего 17), а также с выборками «этнических белорусов». Анализ значений коэффициентов генетических расстояний между исследованными 30 группами выявил их гомогенность, а уровень значимости попарных значений FST между ними оказался статистически незначимым (P > 0,05). Таким образом, совокупный генетический «портрет» сообществ, образовавшихся в местах содержания осужден-ных, в целом сопоставим с генетическими характеристиками современного населения Беларуси.

Не отмечено никаких различий между населением городов-новостроек со значительным ми-грационным вливанием (такими как Новополоцк, Жодино, Светлогорск и др.) и выборками из тех же или соседних административных районов, представляющих собой преимущественно на-селение с сельскохозяйственным укладом жизни.

Сравнительный «гено-географический» анализ. Кроме восточных славян (этнические белору- сы и их географические соседи – украинцы и русские) для сравнительного анализа были взяты географически удаленная выборка южных славян (сербы, n = 200 [7]) и выборки изолированных от Восточной Европы жителей США: белых американцев (n = 302), афро-американцев (n = 258) и латиноамериканцев (n = 140) [8]. Все «криминалистические» и «этнически белорусские» ре-гиональные группы статистически значимо отличаются не только от афро-американцев и лати-ноамериканцев, но и от белых американцев (Р < 0,05) как при оценке методом G-статистики на основе частот встречаемости аллелей, так и при оценке попарных значений FST.

На следующем этапе был проведен анализ характера распределения частот встречаемости аллелей STR-локусов в «криминалистических» (табл. 1) и «этнически белорусских» группах ме-тодом G-статистики в сравнении с данными, полученными при исследовании населения Украины, России и Польши. Полученные результаты приведены в табл. 2.

Все этнотерриториальные группы из Беларуси отличаются не только от выборок афро-аме- риканцев и латиноамериканцев, но и белых американцев. «Криминалистический» массив также отличается от сербов, а в выборке «этнических белорусов» отличия с сербами выявляются во всех регионах, кроме Восточного Полесья и Поднепровья. Таким образом, «гено-географический» подход выявляет внутреннюю гетерогенность населения Беларуси: восточные регионы демонст-рируют некоторое отличие аутосомных ДНК-маркеров, не достигающее статистически значимого уровня. Возможной причиной данных отличий могут быть исторические миграции на восток нынешней Беларуси переселенцев из Российской империи («староверы», или «раскольники»). Существование незначительной внутренней гетерогенности массивов генотипов отмечено и при исследовании населения Польши.

С русскими из различных регионов России [1; 9; 10] и украинцами [1] «криминалистическая» база отличается только в локусе D3S1358, остальные локусы не показали статистически значи-мых отличий.

При сравнении с выборками поляков (10 STR-локусов при n = 2176 [11] и 13 STR-локусов при n = 870 [12]) статистически значимые различия либо не были выявлены вообще, либо были минимальными (в локусе D21S11).

98


2. Значения

P попарного

сравнения

популяций

с «крим

иналистическим

» массивом

Популяции

Ссылка

n D

3S13

58

vWA

TH

01

TPO

X

CSF

1PO

D

5S81

8 D

7S82

0 D

13S3

17

D16

S539

D

18S5

1 D

8S11

79

D21

S11

FGA

D

2S13

38

D19

S433

ЭтнБел

15

25

0,18

5 0,

946

0,57

3 0,

999

0,85

3 0,

793

0,97

4 0,

795

0,46

2 0,

438

0,44

6 0,

976

0,27

9 0,

185

0,94

6 Бел

2 35

90

0,08

4 0,

821

0,06

8 0,

939

0,99

3 0,

585

0,98

0 0,

428

0,49

1 0,

905

0,99

8 0,

979

0,07

6 0,

783

0,05

8 РусМ

ос

1 16

6 0,

581

0,91

8 0,

710

0,85

1 0,

597

0,93

3 0,

808

0,99

8 0,

852

0,93

7 –

– –

– –

Рус1

9

402

0,00

8 0,

916

– –

– 0,

940

0,72

7 0,

524

– 0,

996

0,86

3 0,

813

0,84

4 –

– Рус2

10

18

4 0,

032

0,89

1 0,

168

0,58

2 0,

781

0,96

2 0,

958

0,47

4 0,

981

0,99

9 0,

495

0,59

6 0,

976

0,99

1 0,

223

Укр

1

115

0,03

2 0,

325

0,97

4 0,

359

0,82

0 0,

197

0,40

4 0,

632

0,06

4 0,

236

– –

– –

– Пол

1 12

87

0 0,

318

0,69

7 0,

761

0,28

4 0,

490

0,07

3 0,

122

0,23

9 0,

311

0,48

9 0,

189

0,00

0 0,

121

– –

Пол

2 11

21

76

0,21

0 0,

623

0,12

0 –

– –

– –

0,87

6 0,

096

0,41

5 0,

052

0,20

7 0,

241

0,05

1 БМ

Пол

13

21

2 0,

053

0,02

2 0,

817

0,49

2 0,

629

0,15

3 0,

069

0,06

6 0,

218

0,52

8 0,

250

0,00

0 0,

023

0,30

6 0,

025

СВПол

14

20

7 0,

007

0,98

1 0,

875

0,05

7 0,

583

0,00

2 0,

488

0,20

6 0,

556

0,97

7 0,

660

0,01

6 0,

312

– 0,

019

СЧ

7 53

0 –

0,05

1 0,

000

0,16

8 0,

342

0,00

0 0,

465

0,12

8 0,

466

– 0,

315

– –

– –

БСША

8

302

0,03

9 0,

804

0,00

0 0,

180

0,00

2 0,

233

0,63

7 0,

126

0,12

4 0,

660

0,06

9 0,

006

0,34

8 0,

791

0,25

5 ЛСША

8

140

0,38

1 0,

099

0,00

0 0,

000

0,44

5 0,

003

0,78

2 0,

003

0,00

3 0,

895

0,52

6 0,

356

0,00

0 0,

397

0,05

8 Pr

omeg

a 15

69

0 0,

336

0,10

6 0,

000

0,00

3 0,

083

0,05

8 0,

000

0,00

0 0,

164

0,00

0 0,

000

0,00

1 0,

243

– –

AB

I 3

349

0,57

7 0,

588

0,00

0 0,

000

0,05

1 0,

009

0,31

3 0,

008

0,30

6 0,

221

0,13

7 0,

053

0,05

3 –

– П

р и

м е

ч а

н и

я: жирны

м шрифтом

выделены

значения

P <

0,05

; Этнбел

– этнические

белорусы

, Бел

– обобщ

енная вы

борка белорусов,

РусМос

– русские

из Москвы

, Рус1

– русские

(200

2 г.

), Рус2

– русские

(200

7 г.

), Укр

– украинцы

, Пол

1 – Польш

а (2

006 г.

), Пол

2 – Польш

а (2

008 г.

), БМ

Пол

– белорусское

меньш

инство

из П

одляшского вое-

водства Польш

и, СВПол

– северо-восточная Польш

а, СЧ

– Сербия и Черногория

, БСШ

А –

белое

население

США

, ЛСША

– латиноамериканское население США

, Pro

meg

a –

рекомендации

фирмы

Pro

meg

a для белого

населения

США

, AB

I – реком

ендации фи

рмы

App

lied

Bio

syst

ems д

ля белого населения США

.

98

98


2. Значения

P попарного

сравнения

популяций

с «крим

иналистическим

» массивом

Популяции

Ссылка

n D

3S13

58

vWA

TH

01

TPO

X

CSF

1PO

D

5S81

8 D

7S82

0 D

13S3

17

D16

S539

D

18S5

1 D

8S11

79

D21

S11

FGA

D

2S13

38

D19

S433

ЭтнБел

15

25

0,18

5 0,

946

0,57

3 0,

999

0,85

3 0,

793

0,97

4 0,

795

0,46

2 0,

438

0,44

6 0,

976

0,27

9 0,

185

0,94

6 Бел

2 35

90

0,08

4 0,

821

0,06

8 0,

939

0,99

3 0,

585

0,98

0 0,

428

0,49

1 0,

905

0,99

8 0,

979

0,07

6 0,

783

0,05

8 РусМ

ос

1 16

6 0,

581

0,91

8 0,

710

0,85

1 0,

597

0,93

3 0,

808

0,99

8 0,

852

0,93

7 –

– –

– –

Рус1

9

402

0,00

8 0,

916

– –

– 0,

940

0,72

7 0,

524

– 0,

996

0,86

3 0,

813

0,84

4 –

– Рус2

10

18

4 0,

032

0,89

1 0,

168

0,58

2 0,

781

0,96

2 0,

958

0,47

4 0,

981

0,99

9 0,

495

0,59

6 0,

976

0,99

1 0,

223

Укр

1

115

0,03

2 0,

325

0,97

4 0,

359

0,82

0 0,

197

0,40

4 0,

632

0,06

4 0,

236

– –

– –

– Пол

1 12

87

0 0,

318

0,69

7 0,

761

0,28

4 0,

490

0,07

3 0,

122

0,23

9 0,

311

0,48

9 0,

189

0,00

0 0,

121

– –

Пол

2 11

21

76

0,21

0 0,

623

0,12

0 –

– –

– –

0,87

6 0,

096

0,41

5 0,

052

0,20

7 0,

241

0,05

1 БМ

Пол

13

21

2 0,

053

0,02

2 0,

817

0,49

2 0,

629

0,15

3 0,

069

0,06

6 0,

218

0,52

8 0,

250

0,00

0 0,

023

0,30

6 0,

025

СВПол

14

20

7 0,

007

0,98

1 0,

875

0,05

7 0,

583

0,00

2 0,

488

0,20

6 0,

556

0,97

7 0,

660

0,01

6 0,

312

– 0,

019

СЧ

7 53

0 –

0,05

1 0,

000

0,16

8 0,

342

0,00

0 0,

465

0,12

8 0,

466

– 0,

315

– –

– –

БСША

8

302

0,03

9 0,

804

0,00

0 0,

180

0,00

2 0,

233

0,63

7 0,

126

0,12

4 0,

660

0,06

9 0,

006

0,34

8 0,

791

0,25

5 ЛСША

8

140

0,38

1 0,

099

0,00

0 0,

000

0,44

5 0,

003

0,78

2 0,

003

0,00

3 0,

895

0,52

6 0,

356

0,00

0 0,

397

0,05

8 Pr

omeg

a 15

69

0 0,

336

0,10

6 0,

000

0,00

3 0,

083

0,05

8 0,

000

0,00

0 0,

164

0,00

0 0,

000

0,00

1 0,

243

– –

AB

I 3

349

0,57

7 0,

588

0,00

0 0,

000

0,05

1 0,

009

0,31

3 0,

008

0,30

6 0,

221

0,13

7 0,

053

0,05

3 –

– П

р и

м е

ч а

н и

я: жирны

м шрифтом

выделены

значения

P <

0,05

; Этнбел

– этнические

белорусы

, Бел

– обобщ

енная вы

борка белорусов,

РусМос

– русские

из Москвы

, Рус1

– русские

(200

2 г.

), Рус2

– русские

(200

7 г.

), Укр

– украинцы

, Пол

1 – Польш

а (2

006 г.

), Пол

2 – Польш

а (2

008 г.

), БМ

Пол

– белорусское

меньш

инство

из П

одляшского вое-

водства Польш

и, СВПол

– северо-восточная Польш

а, СЧ

– Сербия и Черногория

, БСШ

А –

белое

население

США

, ЛСША

– латиноамериканское население США

, Pro

meg

a –

рекомендации

фирмы

Pro

meg

a для белого

населения

США

, AB

I – реком

ендации фи

рмы

App

lied

Bio

syst

ems д

ля белого населения США

.

98

99

Проведенное исследование выявило значительные различия между распределением частот встречаемости аллелей у населения Беларуси и частотами аллелей у белого населения США, ре-комендуемыми корпорациями Promega и Applied Biosystems для обсчета результатов генотипи-рования. Частота встречаемости аллелей, предлагаемая фирмой-производителем Applied Biosystems, имеет достоверные отличия в 4 из 15 локусов, а частота корпорации Promega достоверно отли- чается в 7 из 15 локусов. Выявленные различия доказывают неадекватность применения частоты аллелей у белого населения США, рекомендуемой корпорациями Promega и Applied Biosystems, для обсчета уровня достоверности экспертных выводов в экспертных учреждениях Республики Беларусь.

Заключение. Полученные результаты подтверждают необходимость формирования нацио-нальной референтной базы данных ДНК-маркеров Беларуси для нужд экспертного ДНК-анализа и возможность использования для этой цели накопленных больших массивов генотипов совре-менного населения Беларуси при условии проведения их тщательного генетико-статистического анализа.

Исследование частично поддержано грантом Президиума РАН «Фундаментальные науки – медицине».


1. Z h i v o t o v s k y L. A. et al. // Forensic Sci. Int. 2007. Vol. 172. P. 156–160. 2. В е р е м е й ч и к В. М. и др. // Весці HAH Беларусi. Сер. біял. навук. 2009. № 1. С. 56–62. 3. AmpFlSTR Identifiler™ PCR Amplification Kit. User’s Manual. Applied Biosystems, 2005. 4. G o u d e t J. FSTAT: A program to estimate and test gene diversities and fixation indices (version 2.9.3). 2001. [Electronic

resource]. – Mode os access: http://www.unil.ch/izea/softwares/fstat.html. 5. Историко-этнографические регионы Беларуси. Электронная коллекция «Россия и Беларусь: этнокультурный

диалог» [Электронный ресурс]. – Режим доступа: http://by.ethnology.ru/win/regions.htm. 6. R o s e n b e r g N. A. et al. // Science. 2002. Vol. 298, N 5602. P. 2381–2385. 7. K e c k a r e v i c D. et al. // Forensic Sci. Int. 2005. Vol. 151. P. 315–316. 8. B u t l e r J. et al. // J. Forensic Sci. 2003. Vol. 48, N 4. P. 908–911. 9. K o r n i e n k o I. V. et al. // Int. J. Legal. Med. 2002. Vol. 116, N 5. P. 309–311. 10. М а л я р ч у к Б. А. и др. // Мол. биол. 2007. Т. 41, № 1. С. 3–7. 11. S o l t y s z e w s k i I. et al. // Forensic Sci. Int. Genet. 2008. Vol. 2, N 3. P. 205–211. 12. S o l t y s z e w s k i I. et al. // Forensic Sci. Int. 2006. Vol. 159, N 2–3. P. 241–243. 13. P e p i n s k i W. et al. // Forensic Sci. Int. 2004. Vol. 139, N 2–3. P. 265–267. 14. J a n i c a J. В. et al. // Forensic Sci. Int. 2001. Vol. 124, N 2. P. 226–227. 15. Technical Manual of the PowerPlex® 16 System. Promega corporation, Madison, 2002.

TSYBOVSKY I. S., VEREMEICHYK V. M., KRITSKAYA S. V., EVMENENKO S. A., LOBATSEVICH S. M., PAVLUCHENKO A. V., KARTEL N. A., ZHIVOTOVSKY L. A.

[email protected]

AUTOSOMAL DNA-MARKER REFERENCE DATABASE: POSSIBILITIES OF LARGE MODERN BELARUSIAN POPULATION GENOTYPIC SETS ANALYSIS

Summary

For the first time, the genotypic data from national forensic database of Belarus, including 9626 genotypes from 109 administrative regions and 13 prisons, were investigated in comparison with the data on ethnic Belarusians, Russians, Ukrainians, etc. The calculated polymorphism parameters showed the lack of statistically significant differences between Eastern Slavs. Comparison of allele frequency distributions in the population of Belarus and those in American Caucasians recommended by Promega and Applied Biosystems found significant differences. This finding demonstrated an inadequacy of using frequencies by these corporations at expert institutions of Belarus. Our results substantiated a necessity for constructing national reference DNA database for needs of forensic DNA-analysis and possibility of using, for this aim, large cumulative sets of the modern Belarusian population genotypes on the assumption of careful genetic data analyses.

99

Проведенное исследование выявило значительные различия между распределением частот встречаемости аллелей у населения Беларуси и частотами аллелей у белого населения США, ре-комендуемыми корпорациями Promega и Applied Biosystems для обсчета результатов генотипи-рования. Частота встречаемости аллелей, предлагаемая фирмой-производителем Applied Biosystems, имеет достоверные отличия в 4 из 15 локусов, а частота корпорации Promega достоверно отли- чается в 7 из 15 локусов. Выявленные различия доказывают неадекватность применения частоты аллелей у белого населения США, рекомендуемой корпорациями Promega и Applied Biosystems, для обсчета уровня достоверности экспертных выводов в экспертных учреждениях Республики Беларусь.

Заключение. Полученные результаты подтверждают необходимость формирования нацио-нальной референтной базы данных ДНК-маркеров Беларуси для нужд экспертного ДНК-анализа и возможность использования для этой цели накопленных больших массивов генотипов совре-менного населения Беларуси при условии проведения их тщательного генетико-статистического анализа.

Исследование частично поддержано грантом Президиума РАН «Фундаментальные науки – медицине».


1. Z h i v o t o v s k y L. A. et al. // Forensic Sci. Int. 2007. Vol. 172. P. 156–160. 2. В е р е м е й ч и к В. М. и др. // Весці HAH Беларусi. Сер. біял. навук. 2009. № 1. С. 56–62. 3. AmpFlSTR Identifiler™ PCR Amplification Kit. User’s Manual. Applied Biosystems, 2005. 4. G o u d e t J. FSTAT: A program to estimate and test gene diversities and fixation indices (version 2.9.3). 2001. [Electronic

resource]. – Mode os access: http://www.unil.ch/izea/softwares/fstat.html. 5. Историко-этнографические регионы Беларуси. Электронная коллекция «Россия и Беларусь: этнокультурный

диалог» [Электронный ресурс]. – Режим доступа: http://by.ethnology.ru/win/regions.htm. 6. R o s e n b e r g N. A. et al. // Science. 2002. Vol. 298, N 5602. P. 2381–2385. 7. K e c k a r e v i c D. et al. // Forensic Sci. Int. 2005. Vol. 151. P. 315–316. 8. B u t l e r J. et al. // J. Forensic Sci. 2003. Vol. 48, N 4. P. 908–911. 9. K o r n i e n k o I. V. et al. // Int. J. Legal. Med. 2002. Vol. 116, N 5. P. 309–311. 10. М а л я р ч у к Б. А. и др. // Мол. биол. 2007. Т. 41, № 1. С. 3–7. 11. S o l t y s z e w s k i I. et al. // Forensic Sci. Int. Genet. 2008. Vol. 2, N 3. P. 205–211. 12. S o l t y s z e w s k i I. et al. // Forensic Sci. Int. 2006. Vol. 159, N 2–3. P. 241–243. 13. P e p i n s k i W. et al. // Forensic Sci. Int. 2004. Vol. 139, N 2–3. P. 265–267. 14. J a n i c a J. В. et al. // Forensic Sci. Int. 2001. Vol. 124, N 2. P. 226–227. 15. Technical Manual of the PowerPlex® 16 System. Promega corporation, Madison, 2002.

TSYBOVSKY I. S., VEREMEICHYK V. M., KRITSKAYA S. V., EVMENENKO S. A., LOBATSEVICH S. M., PAVLUCHENKO A. V., KARTEL N. A., ZHIVOTOVSKY L. A.

[email protected]

AUTOSOMAL DNA-MARKER REFERENCE DATABASE: POSSIBILITIES OF LARGE MODERN BELARUSIAN POPULATION GENOTYPIC SETS ANALYSIS

Summary

For the first time, the genotypic data from national forensic database of Belarus, including 9626 genotypes from 109 administrative regions and 13 prisons, were investigated in comparison with the data on ethnic Belarusians, Russians, Ukrainians, etc. The calculated polymorphism parameters showed the lack of statistically significant differences between Eastern Slavs. Comparison of allele frequency distributions in the population of Belarus and those in American Caucasians recommended by Promega and Applied Biosystems found significant differences. This finding demonstrated an inadequacy of using frequencies by these corporations at expert institutions of Belarus. Our results substantiated a necessity for constructing national reference DNA database for needs of forensic DNA-analysis and possibility of using, for this aim, large cumulative sets of the modern Belarusian population genotypes on the assumption of careful genetic data analyses.

100




УДК 911+551.5+551.59(476)+551.3+662.83/85

Академик В. Ф. ЛОГИНОВ, Г. И. КАРАТАЕВ

ТЕКТОНОФИЗИЧЕСКАЯ ПРИРОДА ШКВАЛЬНЫХ ВИХРЕЙ В БЕЛАРУСИ

Институт природопользования НАН Беларуси, Минск Поступило 14.09.2009

Ранее, в статье [1] было показано, что на территории Беларуси систематически наблюдаются шквальные, предгрозовые явления, приуроченные к определенным районам. Замечено, что шквалы наиболее часто происходят в летние месяцы, преимущественно с апреля по сентябрь. Повторяе-мость шквальных явлений за последние 30 лет изменялась: наименьшее число дней со шквалами отмечено во второй половине 1970-х, в начале 1980-х и 1990-х годах; наибольшее – во второй половине 1980-х и в начале ХХI в. Очень редки шквальные явления в октябре–феврале. В июне же и июле в отдельные годы количество шквалов доходило до 10 случаев. В среднем количество дней со шквалами в целом для всей территории Беларуси характеризуется числом 0,23 с очень большим коэффициентом вариации, равным 2,7. Однако для метеостанций, на которых фикси-руется наибольшее число дней со шквалами (от 0,61 до 0,81), коэффициент вариации в среднем составляет 1,5, что свидетельствует о большой стабильности в повторяемости шквалов в этих районах. Этот факт может свидетельствовать о том, что природа шквальных явлений связана с процессами не только в системе «подстилающая поверхность–атмосфера».

Рассмотрим другие возможные факторы формирования шквалов. Известна зависимость повторяемости шквалов от многих физико-географических особенно-

стей территории. На формирование шквалов оказывает влияние растительность: территории, не покрытые лесом, чаще подвержены шквалистому усилению ветра; на наветренных склонах так-же усиливается скорость ветра; на возвышенных территориях количество шквалов несколько больше, хотя это правило не всегда соблюдается, например, на Новогрудской возвышенности на станции Новогрудок вообще не было шквалов. Особенности пространственного распределения шквалов на территории Беларуси нельзя объяснить только известными физико-географическими особенностями и метеорологическими процессами. Рассмотрим другие возможные факторы формирования шквалов. К таким факторам можно отнести гравитационные и магнитные поля.

Известно, что аномалии силы тяжести в равнинных областях Земли варьируют в среднем в интервале ± 70 мГал (в Беларуси от + 30 до – 90 мГал), достигая нескольких сотен миллигалов в горах и глубоководных впадинах. Изменение центробежного ускорения при перемещении по меридиану составляет 34 мГал на каждые 100 км. Ускорение силы тяжести меняется от про-странственного положения Луны и Солнца относительно Земли на 0,24 мГал/сут. Поле силы тя-жести на территории Беларуси под влиянием современных тектонофизических процессов, про-исходящих в зонах крупных глубинных разломов в литосфере, изменяется до 0,2 мГал/год. Ва-риации силы тяжести во времени, обусловленные изменением скорости вращения Земли, достигают 30–60 мкГал/год (30–60⋅10–8 м⋅с–2).

Гравитационные аномалии являются добавочными силами, соизмеримыми с силой Кориолиса и силой горизонтального барического градиента. Как добавочные силы они создают неустойчи-вость в системе «подстилающая поверхность–атмосфера». Отсюда дальнейшая задача – оценить влияние как стационарных гравитационных аномалий, вызванных плотностной неоднородностью

100




УДК 911+551.5+551.59(476)+551.3+662.83/85

Академик В. Ф. ЛОГИНОВ, Г. И. КАРАТАЕВ

ТЕКТОНОФИЗИЧЕСКАЯ ПРИРОДА ШКВАЛЬНЫХ ВИХРЕЙ В БЕЛАРУСИ

Институт природопользования НАН Беларуси, Минск Поступило 14.09.2009

Ранее, в статье [1] было показано, что на территории Беларуси систематически наблюдаются шквальные, предгрозовые явления, приуроченные к определенным районам. Замечено, что шквалы наиболее часто происходят в летние месяцы, преимущественно с апреля по сентябрь. Повторяе-мость шквальных явлений за последние 30 лет изменялась: наименьшее число дней со шквалами отмечено во второй половине 1970-х, в начале 1980-х и 1990-х годах; наибольшее – во второй половине 1980-х и в начале ХХI в. Очень редки шквальные явления в октябре–феврале. В июне же и июле в отдельные годы количество шквалов доходило до 10 случаев. В среднем количество дней со шквалами в целом для всей территории Беларуси характеризуется числом 0,23 с очень большим коэффициентом вариации, равным 2,7. Однако для метеостанций, на которых фикси-руется наибольшее число дней со шквалами (от 0,61 до 0,81), коэффициент вариации в среднем составляет 1,5, что свидетельствует о большой стабильности в повторяемости шквалов в этих районах. Этот факт может свидетельствовать о том, что природа шквальных явлений связана с процессами не только в системе «подстилающая поверхность–атмосфера».

Рассмотрим другие возможные факторы формирования шквалов. Известна зависимость повторяемости шквалов от многих физико-географических особенно-

стей территории. На формирование шквалов оказывает влияние растительность: территории, не покрытые лесом, чаще подвержены шквалистому усилению ветра; на наветренных склонах так-же усиливается скорость ветра; на возвышенных территориях количество шквалов несколько больше, хотя это правило не всегда соблюдается, например, на Новогрудской возвышенности на станции Новогрудок вообще не было шквалов. Особенности пространственного распределения шквалов на территории Беларуси нельзя объяснить только известными физико-географическими особенностями и метеорологическими процессами. Рассмотрим другие возможные факторы формирования шквалов. К таким факторам можно отнести гравитационные и магнитные поля.

Известно, что аномалии силы тяжести в равнинных областях Земли варьируют в среднем в интервале ± 70 мГал (в Беларуси от + 30 до – 90 мГал), достигая нескольких сотен миллигалов в горах и глубоководных впадинах. Изменение центробежного ускорения при перемещении по меридиану составляет 34 мГал на каждые 100 км. Ускорение силы тяжести меняется от про-странственного положения Луны и Солнца относительно Земли на 0,24 мГал/сут. Поле силы тя-жести на территории Беларуси под влиянием современных тектонофизических процессов, про-исходящих в зонах крупных глубинных разломов в литосфере, изменяется до 0,2 мГал/год. Ва-риации силы тяжести во времени, обусловленные изменением скорости вращения Земли, достигают 30–60 мкГал/год (30–60⋅10–8 м⋅с–2).

Гравитационные аномалии являются добавочными силами, соизмеримыми с силой Кориолиса и силой горизонтального барического градиента. Как добавочные силы они создают неустойчи-вость в системе «подстилающая поверхность–атмосфера». Отсюда дальнейшая задача – оценить влияние как стационарных гравитационных аномалий, вызванных плотностной неоднородностью

101

строения Земли, так и нестационарных аномалий, создаваемых в том числе и силой движущейся относительно твердой Земли атмосферы (эффект Этвеша), и, тем самым, изменяющих центро-бежную силу, связанную с вращением Земли. Так, при движении на восток линейная скорость частиц воздуха будет возрастать, а при движении на запад – уменьшаться. Следовательно, будет возрастать или уменьшаться центробежная сила, а, значит, и сила тяжести.

Учет аномалий силы тяжести в уравнениях геофизической гидродинамики приводит прежде всего к отказу от условий квазистатичности атмосферы. Иначе говоря, необходимо преобразо-вать уравнения геофизической динамики таким образом, чтобы они учитывали сложный харак-тер ускорения силы тяжести. Принципиальным является также учет составляющих ускорения силы тяжести по осям х и у.

Далее, как известно, аномальное поле силы тяжести несет в себе информацию о составе, внутренней структуре, разломах кристаллического фундамента и платформенного чехла, мощ-ности последнего, а также о глубинной плотностной неоднородности литосферы и астеносферы. Используя понятие потенциальной энергии системы, в теории гравитационного потенциала по-лучена характеристика работы, затраченной силами поля при переходе данных масс от беско-нечного рассеяния внутрь данного объема, выраженная в виде

2 2 21 [( ) ( ) ( ) ] ,8 T

V V VW dx y z

∂ ∂ ∂= + + τ

π ∂ ∂ ∂∫

где V – гравитационный потенциал [2]. Магнитные аномалии четко фиксируют магнитные неоднородности главным образом веще-

ства кристаллического фундамента и его разломную тектонику; региональная составляющая от-ражает латеральную магнитную неоднородность нижнего («базальтового») слоя земной коры. Вещество верхней мантии в аномальном магнитном поле не отражается в силу его индуктивного происхождения: при высоких температурах, соизмеримых с температурой точки Кюри, горные породы теряют магнитные свойства.

На сейсмических разрезах, полученных по методике глубинного сейсмического зондирова-ния (ГСЗ), отражается структура (в том числе разломная картина) литосферы, изменчивость мощностей ее основных слоев, а скорости сейсмических волн характеризуют вещественные не-однородности. На геоэлектрических разрезах, строящихся по материалам глубинных магнито-теллурических зондирований, дается распределение электропроводящих зон в земной коре и верх-ней мантии.

Ниже приводятся результаты сопоставления карты средних годовых значений числа дней со шквалами на территории Беларуси, приведенной в работе [1], с комплектом геофизических карт и разрезов.

При сопоставлении карты, характеризующей пространственное распределение шквалов, с кар-той аномального магнитного поля находим, что районы с наибольшей интенсивностью проявле-ния шквалов (аномалии шквалов) совпадают с оригинальной структурой морфологии магнитных аномалий – с «завихрениями» положительных магнитных аномалий, с некими узлами со слож-ной структурой поля (рис. 1). В процессе сравнительного анализа был установлен также еще один участок аномально-вихревой структуры магнитного поля – между городами Старобин и Давид-Городок, на границе Брестской и Гомельской областей, вблизи которого расположена Лельчицкая метеостанция, не зафиксировавшая шквальных явлений в атмосфере.

Высокая повторяемость шквалов приурочена к аномальным зонам гравитационной энергии, к узлам пересечения глубинных суперрегиональных разломов мантийного заложения, разделя- ющих блоки земной коры с различным типом ее глубинного строения, к схождениям к эпицен-тру шквалов локальных коровых разломов (рис. 2), к электропроводящим зонам в земной коре на больших глубинах [3] (рис. 3).

Заметим, что участки районов, где шквалов мало, в геофизических полях характеризуются отсутствием вихреобразных магнитных аномальных полей, слабой интенсивностью гравитаци-онной энергии, малой плотностью разломов.

101

строения Земли, так и нестационарных аномалий, создаваемых в том числе и силой движущейся относительно твердой Земли атмосферы (эффект Этвеша), и, тем самым, изменяющих центро-бежную силу, связанную с вращением Земли. Так, при движении на восток линейная скорость частиц воздуха будет возрастать, а при движении на запад – уменьшаться. Следовательно, будет возрастать или уменьшаться центробежная сила, а, значит, и сила тяжести.

Учет аномалий силы тяжести в уравнениях геофизической гидродинамики приводит прежде всего к отказу от условий квазистатичности атмосферы. Иначе говоря, необходимо преобразо-вать уравнения геофизической динамики таким образом, чтобы они учитывали сложный харак-тер ускорения силы тяжести. Принципиальным является также учет составляющих ускорения силы тяжести по осям х и у.

Далее, как известно, аномальное поле силы тяжести несет в себе информацию о составе, внутренней структуре, разломах кристаллического фундамента и платформенного чехла, мощ-ности последнего, а также о глубинной плотностной неоднородности литосферы и астеносферы. Используя понятие потенциальной энергии системы, в теории гравитационного потенциала по-лучена характеристика работы, затраченной силами поля при переходе данных масс от беско-нечного рассеяния внутрь данного объема, выраженная в виде

2 2 21 [( ) ( ) ( ) ] ,8 T

V V VW dx y z

∂ ∂ ∂= + + τ

π ∂ ∂ ∂∫

где V – гравитационный потенциал [2]. Магнитные аномалии четко фиксируют магнитные неоднородности главным образом веще-

ства кристаллического фундамента и его разломную тектонику; региональная составляющая от-ражает латеральную магнитную неоднородность нижнего («базальтового») слоя земной коры. Вещество верхней мантии в аномальном магнитном поле не отражается в силу его индуктивного происхождения: при высоких температурах, соизмеримых с температурой точки Кюри, горные породы теряют магнитные свойства.

На сейсмических разрезах, полученных по методике глубинного сейсмического зондирова-ния (ГСЗ), отражается структура (в том числе разломная картина) литосферы, изменчивость мощностей ее основных слоев, а скорости сейсмических волн характеризуют вещественные не-однородности. На геоэлектрических разрезах, строящихся по материалам глубинных магнито-теллурических зондирований, дается распределение электропроводящих зон в земной коре и верх-ней мантии.

Ниже приводятся результаты сопоставления карты средних годовых значений числа дней со шквалами на территории Беларуси, приведенной в работе [1], с комплектом геофизических карт и разрезов.

При сопоставлении карты, характеризующей пространственное распределение шквалов, с кар-той аномального магнитного поля находим, что районы с наибольшей интенсивностью проявле-ния шквалов (аномалии шквалов) совпадают с оригинальной структурой морфологии магнитных аномалий – с «завихрениями» положительных магнитных аномалий, с некими узлами со слож-ной структурой поля (рис. 1). В процессе сравнительного анализа был установлен также еще один участок аномально-вихревой структуры магнитного поля – между городами Старобин и Давид-Городок, на границе Брестской и Гомельской областей, вблизи которого расположена Лельчицкая метеостанция, не зафиксировавшая шквальных явлений в атмосфере.

Высокая повторяемость шквалов приурочена к аномальным зонам гравитационной энергии, к узлам пересечения глубинных суперрегиональных разломов мантийного заложения, разделя- ющих блоки земной коры с различным типом ее глубинного строения, к схождениям к эпицен-тру шквалов локальных коровых разломов (рис. 2), к электропроводящим зонам в земной коре на больших глубинах [3] (рис. 3).

Заметим, что участки районов, где шквалов мало, в геофизических полях характеризуются отсутствием вихреобразных магнитных аномальных полей, слабой интенсивностью гравитаци-онной энергии, малой плотностью разломов.

102

Максимумы шквальных явлений находят отражение не только в геофизических полях, но они

хорошо визуально накладываются на кольцевые структуры, выявленные по аэрокосмическим дан-ным [4]. Так, Шарковщинская аномалия шквалов хорошо «ложится» на одноименную кольце-вую структуру; Волковысская – на группу кольцевых структур первого порядка; Бобруйская – на

Рис. 1. Схема осей магнитных аномалий в рай-оне метеостанций Бобруйская, Волковыская, Езерищинская, Шарковщинская и в районе между Старобином и Давид-Городком: 1, 2 – оси крупных и средних положительных анома- лий; 3 – оси отрицательных аномалий

Рис. 2. Средние годовые значения числа дней со шквалами в сопоставлении с глу-бинными разломами литосферы Белару-си: 1 – глубинные разломы мантийного заложения, ограничивающие блоки с раз-личным геофизическим типом строенияземной коры, и их наименования; 2 –краевые разломы Припятского прогиба; 3 – средние годовые числа дней со шква-лами; 4 – метеостанции (Б – Бобруйская, В – Волковыская, Е – Езерищинская, Ш – Шарковщинская)

102

Максимумы шквальных явлений находят отражение не только в геофизических полях, но они

хорошо визуально накладываются на кольцевые структуры, выявленные по аэрокосмическим дан-ным [4]. Так, Шарковщинская аномалия шквалов хорошо «ложится» на одноименную кольце-вую структуру; Волковысская – на группу кольцевых структур первого порядка; Бобруйская – на

Рис. 1. Схема осей магнитных аномалий в рай-оне метеостанций Бобруйская, Волковыская, Езерищинская, Шарковщинская и в районе между Старобином и Давид-Городком: 1, 2 – оси крупных и средних положительных анома- лий; 3 – оси отрицательных аномалий

Рис. 2. Средние годовые значения числа дней со шквалами в сопоставлении с глу-бинными разломами литосферы Белару-си: 1 – глубинные разломы мантийного заложения, ограничивающие блоки с раз-личным геофизическим типом строенияземной коры, и их наименования; 2 –краевые разломы Припятского прогиба; 3 – средние годовые числа дней со шква-лами; 4 – метеостанции (Б – Бобруйская, В – Волковыская, Е – Езерищинская, Ш – Шарковщинская)

103

Октябрьскую и Глусскую структуры второго порядка; Езерищинская – на Витебскую кольцевую структуру.

Особый интерес представляет совпадение Езерищинского макси- мума шквалов с недавно выявлен-ным новым тектоническим элемен- том в структуре Восточно-Евро- пейской платформы – Слободским тектоно-геодинамическим узлом [5], поскольку природа этого узла свя-зывается с возникновением и раз-витием глубинного вихревого источ-ника в тектоносфере.

Все изложенные факты сравни-тельного анализа аномалий шква-лов и геофизических данных дают основания предполагать, что в при- роде шквалов, наблюдаемых на тер-ритории Беларуси, существенную роль играют особенности глубин-ного строения тектоносферы и ха-рактер протекания в ней современ-ных тектонофизических процессов, выраженные «вихревой» структурой локальных участков земной коры и их современной тектоно-физической жизнью. Через разломы на большие глубины в литосферу проникает внешнее элек-тромагнитное поле Земли, которое, встречая глубинные электропроводящие слои, возбуждает вторичное индуктивное электромагнитное поле, выходящее по разломам на земную поверхность (т. е. в зонах разломов происходит вертикальная циркуляция электромагнитного поля, в них не-прерывно протекают своего рода «электромагнитные бури»). На участках, где строение земной коры носит разломно-вихревой характер, глубинное электромагнитное поле в пространстве, вы-ходящее из земных недр, носит также вихревой характер. В неоднородной по составу атмосфере находятся микрочастицы, обладающие магнитной восприимчивостью. Возможно, под действием вихревого глубинного электромагнитного поля эти частицы намагничиваются и увлекаются вихревыми магнитными силовыми линиями, создавая эффект воздушного вихря?

Таким образом, из изложенного следует, что необходимым геофизическим условием возник-новения интенсивных шквалов является одновременное существование в данном районе узла пересечения глубинных разломов, характеризующегося интенсивной гравитационной энергией и высокой плотностью локальных разломов, вихревой тектонической структуры, отраженной в магнитном поле, и глубинной электропроводящей зоны. Отсутствие на площади одного из этих факторов не приводит к возникновению интенсивных шквальных явлений. Например, участок Старобин–Давид-Городок характеризуется вихревым магнитным полем (см. рис. 1), узлом пере-сечения Южно-Припятского и Малынско-Туровского, а также Северо-Припятского и Стоход-ского глубинных разломов (см. рис. 2), к нему приурочена Южно-Припятская кольцевая струк-тура первого порядка. Однако находящаяся на юго-востоке от Давид-Городка Лельчицкая ме-теостанция не фиксирует шквальных явлений. Как видим на рис. 3 в этом районе нет глубинных электропроводящих зон и, следовательно, нет условий для возникновения вторичного глубинного электромагнитного поля. Отсюда – в данном районе относительно спокойная шквальная обста-новка в атмосфере.

В заключение отметим, что для того чтобы теоретически обосновать полученные в работе феноменологические результаты требуется переосмыслить и переформировать уравнения геофи-зической гидродинамики, включив в них гравитационные эффекты, что должно сопровождаться отказом от широко укоренившихся в задачах предвычисления условий квазистатичности. Необ-

Рис. 3. Средние годовые числа дней со шквалами в сопоставлении с элек-тропроводящими зонами в литосфере Беларуси: 1 – средние годовые зна-чения числа дней со шквалами; 2 – метеостанции (см. рис. 2); зоны электро-проводности: 3 – в средней коре (5–20 км), в нижней коре (20–50 км) – по [3]

103

Октябрьскую и Глусскую структуры второго порядка; Езерищинская – на Витебскую кольцевую структуру.

Особый интерес представляет совпадение Езерищинского макси- мума шквалов с недавно выявлен-ным новым тектоническим элемен- том в структуре Восточно-Евро- пейской платформы – Слободским тектоно-геодинамическим узлом [5], поскольку природа этого узла свя-зывается с возникновением и раз-витием глубинного вихревого источ-ника в тектоносфере.

Все изложенные факты сравни-тельного анализа аномалий шква-лов и геофизических данных дают основания предполагать, что в при- роде шквалов, наблюдаемых на тер-ритории Беларуси, существенную роль играют особенности глубин-ного строения тектоносферы и ха-рактер протекания в ней современ-ных тектонофизических процессов, выраженные «вихревой» структурой локальных участков земной коры и их современной тектоно-физической жизнью. Через разломы на большие глубины в литосферу проникает внешнее элек-тромагнитное поле Земли, которое, встречая глубинные электропроводящие слои, возбуждает вторичное индуктивное электромагнитное поле, выходящее по разломам на земную поверхность (т. е. в зонах разломов происходит вертикальная циркуляция электромагнитного поля, в них не-прерывно протекают своего рода «электромагнитные бури»). На участках, где строение земной коры носит разломно-вихревой характер, глубинное электромагнитное поле в пространстве, вы-ходящее из земных недр, носит также вихревой характер. В неоднородной по составу атмосфере находятся микрочастицы, обладающие магнитной восприимчивостью. Возможно, под действием вихревого глубинного электромагнитного поля эти частицы намагничиваются и увлекаются вихревыми магнитными силовыми линиями, создавая эффект воздушного вихря?

Таким образом, из изложенного следует, что необходимым геофизическим условием возник-новения интенсивных шквалов является одновременное существование в данном районе узла пересечения глубинных разломов, характеризующегося интенсивной гравитационной энергией и высокой плотностью локальных разломов, вихревой тектонической структуры, отраженной в магнитном поле, и глубинной электропроводящей зоны. Отсутствие на площади одного из этих факторов не приводит к возникновению интенсивных шквальных явлений. Например, участок Старобин–Давид-Городок характеризуется вихревым магнитным полем (см. рис. 1), узлом пере-сечения Южно-Припятского и Малынско-Туровского, а также Северо-Припятского и Стоход-ского глубинных разломов (см. рис. 2), к нему приурочена Южно-Припятская кольцевая струк-тура первого порядка. Однако находящаяся на юго-востоке от Давид-Городка Лельчицкая ме-теостанция не фиксирует шквальных явлений. Как видим на рис. 3 в этом районе нет глубинных электропроводящих зон и, следовательно, нет условий для возникновения вторичного глубинного электромагнитного поля. Отсюда – в данном районе относительно спокойная шквальная обста-новка в атмосфере.

В заключение отметим, что для того чтобы теоретически обосновать полученные в работе феноменологические результаты требуется переосмыслить и переформировать уравнения геофи-зической гидродинамики, включив в них гравитационные эффекты, что должно сопровождаться отказом от широко укоренившихся в задачах предвычисления условий квазистатичности. Необ-

Рис. 3. Средние годовые числа дней со шквалами в сопоставлении с элек-тропроводящими зонами в литосфере Беларуси: 1 – средние годовые зна-чения числа дней со шквалами; 2 – метеостанции (см. рис. 2); зоны электро-проводности: 3 – в средней коре (5–20 км), в нижней коре (20–50 км) – по [3]

104

ходимо научиться включать аномалии гравитационного поля в модели различной сложности. Установленные связи гравитационного, магнитного, электрического полей и разломной тектони-ки с повторяемостью шквалов на территории Беларуси следует считать предметом дальнейших теоретических исследований этих интересных феноменологических природных особенностей.


1. Л о г и н о в В. Ф., В о л ч е к А. А., Ш п о к а И. Н. // Природопользование. 2008. № 14. С. 51–56. 2. И д е л ь с о н Н. И. Теория потенциала с приложениями к теории фигуры Земли и геофизике. Л.; М., 1936. 3. Г а р е ц к и й Р. Г., А с т а п е н к о В. Н., К а р а т а е в Г. И., Д а н к е в и ч И. В. Геофизические поля и ди-

намика тектоносферы Беларуси. Минск, 2002. 4. М а т в е е в А. В., А ж г и р е в и ч Л. Ф., В о л ь с к а я Л. С. и др. Кольцевые структуры территории Белару-

си. Минск, 1993. 5. Г а р е ц к и й Р. Г., К а р а т а е в Г. И. // Докл. НАН Беларуси. 2009. Т. 53, № 1. С. 108–113. 6. Нацыянальны атлас Беларусі. Мінск, 2002. – 292 с.

LOGINOV V. F., KARATAEV G. I.

[email protected]

TECTONOPHYSICAL NATURE OF SQUALLS IN BELARUS

Summary

The comparative analysis of anomalies of squalls and geophysical fields in Belarus show that maxima of squalls are caused by the presence of simultaneously acting factors: vortex structure of the local area of the earth crust, deep fault junction, deep electroconductive zones and considerable gravitational energy.

104

ходимо научиться включать аномалии гравитационного поля в модели различной сложности. Установленные связи гравитационного, магнитного, электрического полей и разломной тектони-ки с повторяемостью шквалов на территории Беларуси следует считать предметом дальнейших теоретических исследований этих интересных феноменологических природных особенностей.


1. Л о г и н о в В. Ф., В о л ч е к А. А., Ш п о к а И. Н. // Природопользование. 2008. № 14. С. 51–56. 2. И д е л ь с о н Н. И. Теория потенциала с приложениями к теории фигуры Земли и геофизике. Л.; М., 1936. 3. Г а р е ц к и й Р. Г., А с т а п е н к о В. Н., К а р а т а е в Г. И., Д а н к е в и ч И. В. Геофизические поля и ди-

намика тектоносферы Беларуси. Минск, 2002. 4. М а т в е е в А. В., А ж г и р е в и ч Л. Ф., В о л ь с к а я Л. С. и др. Кольцевые структуры территории Белару-

си. Минск, 1993. 5. Г а р е ц к и й Р. Г., К а р а т а е в Г. И. // Докл. НАН Беларуси. 2009. Т. 53, № 1. С. 108–113. 6. Нацыянальны атлас Беларусі. Мінск, 2002. – 292 с.

LOGINOV V. F., KARATAEV G. I.

[email protected]

TECTONOPHYSICAL NATURE OF SQUALLS IN BELARUS

Summary

The comparative analysis of anomalies of squalls and geophysical fields in Belarus show that maxima of squalls are caused by the presence of simultaneously acting factors: vortex structure of the local area of the earth crust, deep fault junction, deep electroconductive zones and considerable gravitational energy.

105




УДК 621.315.612

ТХЭКВОН КИМ1, Н. В. ГАПОНЕНКО1, Е. А. СТЕПАНОВА1, член-корреспондент А. И. РАТЬКО2

ИНДУЦИРОВАННЫЕ ТЕРМООБРАБОТКОЙ ИЗМЕНЕНИЯ В КСЕРОГЕЛЕ ТИТАНАТА БАРИЯ-СТРОНЦИЯ

1Белорусский государственный университет информатики и радиоэлектроники, Минск 2 Институт общей и неорганической химии НАН Беларуси, Минск Поступило 13.04.2009

В последние годы проводятся интенсивные исследования по разработке технологии прием-ников теплового излучения [1]. Тепловые приемники излучения делятся на два типа: тепловой и квантовый. Мощность приемника теплового типа незначительно ниже, чем квантового, однако первый имеет такие преимущества, как уменьшение объема, низкая себестоимость, малые габа-риты и вес, так как для его эксплуатации не требуется криогенный прибор охлаждения, необхо-димый приемнику квантового типа. Приемники теплового типа в свою очередь разделяются на микроболометры, использующие изменение сопротивления в зависимости от температуры, и пироэлектрические приемники, действие которых основано на пироэлектрическом эффекте, т. е. температурной зависимости спонтанной поляризации пироэлектриков.

Основное физическое явление, характерное для пироэлектриков, – способность кристалла изменять свою спонтанную поляризацию при изменении температуры в линейном приближении описывается выражением

sP TΔ = γ ⋅Δ , (1)

где γ – пироэлектрический коэффициент. Пироэлектрический коэффициент γ определяется выражением

00

( , ) ,E

sP E T dET T

∂ ∂εγ ≅ + ε

∂ ∂∫ (2)

где sP – спонтанная поляризация, T – температура, E – напряженность поля. Первое слагаемое в правой части уравнения определяет пироэлектрический коэффициент,

который наблюдается в полярных материалах при наличии спонтанной поляризации sP , а вто-рой член определяет так называемый индуцированный пироэффект при наличии электрическо- го поля.

Пироэлектрический коэффициент достигает максимума около температуры фазового пере-хода, характеризуемого температурой Кюри, значение которой для перовскита BaTiO3 составля-ет около 130 ºС [2]. Однако при замещении в BaTiO3 определенного количества атомов бария стронцием можно получить соединение (Ba1-x, Srx)TiO3, для которого температура Кюри близка к комнатной. Добавление кальция в титанат бария-стронция незначительно снижает пироэлектри-ческий коэффициент, но при этом значительно снижается тангенс угла диэлектрических потерь, и в результате в целом улучшаются основные характеристики приемника излучения [3]. В связи с этим сегнетоэлектрик титаната бария-стронция-кальция (Ba0,6Sr0,3Ca0,1)TiO3 является перспек-тивным материалом для приемников ИК-излучения [4].

105




УДК 621.315.612

ТХЭКВОН КИМ1, Н. В. ГАПОНЕНКО1, Е. А. СТЕПАНОВА1, член-корреспондент А. И. РАТЬКО2

ИНДУЦИРОВАННЫЕ ТЕРМООБРАБОТКОЙ ИЗМЕНЕНИЯ В КСЕРОГЕЛЕ ТИТАНАТА БАРИЯ-СТРОНЦИЯ

1Белорусский государственный университет информатики и радиоэлектроники, Минск 2 Институт общей и неорганической химии НАН Беларуси, Минск Поступило 13.04.2009

В последние годы проводятся интенсивные исследования по разработке технологии прием-ников теплового излучения [1]. Тепловые приемники излучения делятся на два типа: тепловой и квантовый. Мощность приемника теплового типа незначительно ниже, чем квантового, однако первый имеет такие преимущества, как уменьшение объема, низкая себестоимость, малые габа-риты и вес, так как для его эксплуатации не требуется криогенный прибор охлаждения, необхо-димый приемнику квантового типа. Приемники теплового типа в свою очередь разделяются на микроболометры, использующие изменение сопротивления в зависимости от температуры, и пироэлектрические приемники, действие которых основано на пироэлектрическом эффекте, т. е. температурной зависимости спонтанной поляризации пироэлектриков.

Основное физическое явление, характерное для пироэлектриков, – способность кристалла изменять свою спонтанную поляризацию при изменении температуры в линейном приближении описывается выражением

sP TΔ = γ ⋅Δ , (1)

где γ – пироэлектрический коэффициент. Пироэлектрический коэффициент γ определяется выражением

00

( , ) ,E

sP E T dET T

∂ ∂εγ ≅ + ε

∂ ∂∫ (2)

где sP – спонтанная поляризация, T – температура, E – напряженность поля. Первое слагаемое в правой части уравнения определяет пироэлектрический коэффициент,

который наблюдается в полярных материалах при наличии спонтанной поляризации sP , а вто-рой член определяет так называемый индуцированный пироэффект при наличии электрическо- го поля.

Пироэлектрический коэффициент достигает максимума около температуры фазового пере-хода, характеризуемого температурой Кюри, значение которой для перовскита BaTiO3 составля-ет около 130 ºС [2]. Однако при замещении в BaTiO3 определенного количества атомов бария стронцием можно получить соединение (Ba1-x, Srx)TiO3, для которого температура Кюри близка к комнатной. Добавление кальция в титанат бария-стронция незначительно снижает пироэлектри-ческий коэффициент, но при этом значительно снижается тангенс угла диэлектрических потерь, и в результате в целом улучшаются основные характеристики приемника излучения [3]. В связи с этим сегнетоэлектрик титаната бария-стронция-кальция (Ba0,6Sr0,3Ca0,1)TiO3 является перспек-тивным материалом для приемников ИК-излучения [4].

106

В течение последнего десятилетия возрос интерес к синтезу материалов оптоэлектроники и нанофотоники золь-гель методом, в том числе и пленок титаната бария-стронция [5–7]. В дан-ной работе методами ИК-спектроскопии и рентгенофазового анализа исследованы индуциро-ванные термообработкой изменения в ксерогеле (Ba0,6Sr0,3Ca0,1)TiO3.

Материалы и методы исследования. В работе исследована возможность формирования пленок титаната бария-стронция с фазой перовскита из трех типов золей, сформированных на основе трех прекурсоров – тетраэтоксититана (Ti(OC2H5)4), тетрабутоксититана (Ti(OC4H9)4) и тетраизопроксититана Ti(OC3H7)4. Методика формирования золей и пленок из первых двух со-единений подробно изложена в работе [8]. Для получения третьего золя раствор тетраизопрокси-титана готовили путем растворения тетраизопроксититана в монометиловом эфире этиленгликоля. Для получения раствора, содержащего барий, стронций и кальций в соотношении 60 : 30 : 10, рас-считанное количество уксусных солей Ba(CH3COO)2, Sr(CH3COO)2·1/2H2O и Ca(CH3COO)2·H2O растворяли в уксусной кислоте с кипячением с обратным холодильником при температуре 110 ºС до полного их растворения.

После охлаждения до комнатной температуры раствор бария-стронция-кальция смешивали с раствором изопроксититана. Для реакции гидролиза добавлялась смесь воды с монометиловым эфиром этиленгликоля. После 10-дневной выдержки при комнатной температуре золь превра-тился в прозрачный гель. Затем формировался ксерогель титаната бария-стронция-кальция путем сушки геля при температуре 70 ºС в течение нескольких часов.

Для анализа морфологии ксерогелей из трех типов золей были приготовлены пленки, состоя-щие из семи слоев, формируемых последовательно с помощью центрифугирования при скорости центрифугирования 2500 об/мин длительностью 30 с и сушки при температуре 200 ºС в течение 30 мин. После этого пленки подвергались окончательной термообработке длительностью 30 мин при температуре 750 ºС.

Анализ индуцированных термообработкой изменений в ксерогеле осуществлялся методом ИК-спектроскопии и рентгеновской дифракции. Образцы для ИК-спектроскопии, подготовлен-ные методом таблетирования с KBr, были получены путем отжига при температуре 200–800 ºС, и для рентгенофазового анализа – при температуре отжига 500–800 ºС.

ИК-спектры исследуемых образцов записывали на ИК-спектрометре с фурье-преобразовате- лем FT–IR M2000 фирмы Midac (США) в диапазоне 4000–450 cм–1. Рентгенофазовый анализ проводился на дифрактометре D8 Advance, где в качестве зондирующего использовалось CuKα-излучение. Измерения проводились на отраженном пучке методом пошагового сканирования с шагом 0,1 градуса по углу 2θ. Все измерения проводились при комнатной температуре.

Результаты и их обсуждение. На рис. 1 приведены снимки пленок, сформированных из зо-лей на основе Ti(OC2H5)4, Ti(OC3H7)4 и Ti(OC4H9)4, полученные с помощью растрового элек-тронного микроскопа. Пленки с наименьшим зерном получаются из золя тетраэтоксититана (рис. 1, а), с наибольшим – из золя тетрабутоксититана (рис. 1, в). Однако анализ дифрактограм-мы порошков указывает на большую гомогенность зерна для золя, полученного из тетраизо-проксититана (рис. 1, б).

Рис. 1. РЭМ-изображения образцов, полученных из золей на основе Ti(OC2H5)4 (а, × 100 000), Ti(OC3H7)4

(б, × 150 000), Ti(OC4H9)4 (в, × 50 000)

106

В течение последнего десятилетия возрос интерес к синтезу материалов оптоэлектроники и нанофотоники золь-гель методом, в том числе и пленок титаната бария-стронция [5–7]. В дан-ной работе методами ИК-спектроскопии и рентгенофазового анализа исследованы индуциро-ванные термообработкой изменения в ксерогеле (Ba0,6Sr0,3Ca0,1)TiO3.

Материалы и методы исследования. В работе исследована возможность формирования пленок титаната бария-стронция с фазой перовскита из трех типов золей, сформированных на основе трех прекурсоров – тетраэтоксититана (Ti(OC2H5)4), тетрабутоксититана (Ti(OC4H9)4) и тетраизопроксититана Ti(OC3H7)4. Методика формирования золей и пленок из первых двух со-единений подробно изложена в работе [8]. Для получения третьего золя раствор тетраизопрокси-титана готовили путем растворения тетраизопроксититана в монометиловом эфире этиленгликоля. Для получения раствора, содержащего барий, стронций и кальций в соотношении 60 : 30 : 10, рас-считанное количество уксусных солей Ba(CH3COO)2, Sr(CH3COO)2·1/2H2O и Ca(CH3COO)2·H2O растворяли в уксусной кислоте с кипячением с обратным холодильником при температуре 110 ºС до полного их растворения.

После охлаждения до комнатной температуры раствор бария-стронция-кальция смешивали с раствором изопроксититана. Для реакции гидролиза добавлялась смесь воды с монометиловым эфиром этиленгликоля. После 10-дневной выдержки при комнатной температуре золь превра-тился в прозрачный гель. Затем формировался ксерогель титаната бария-стронция-кальция путем сушки геля при температуре 70 ºС в течение нескольких часов.

Для анализа морфологии ксерогелей из трех типов золей были приготовлены пленки, состоя-щие из семи слоев, формируемых последовательно с помощью центрифугирования при скорости центрифугирования 2500 об/мин длительностью 30 с и сушки при температуре 200 ºС в течение 30 мин. После этого пленки подвергались окончательной термообработке длительностью 30 мин при температуре 750 ºС.

Анализ индуцированных термообработкой изменений в ксерогеле осуществлялся методом ИК-спектроскопии и рентгеновской дифракции. Образцы для ИК-спектроскопии, подготовлен-ные методом таблетирования с KBr, были получены путем отжига при температуре 200–800 ºС, и для рентгенофазового анализа – при температуре отжига 500–800 ºС.

ИК-спектры исследуемых образцов записывали на ИК-спектрометре с фурье-преобразовате- лем FT–IR M2000 фирмы Midac (США) в диапазоне 4000–450 cм–1. Рентгенофазовый анализ проводился на дифрактометре D8 Advance, где в качестве зондирующего использовалось CuKα-излучение. Измерения проводились на отраженном пучке методом пошагового сканирования с шагом 0,1 градуса по углу 2θ. Все измерения проводились при комнатной температуре.

Результаты и их обсуждение. На рис. 1 приведены снимки пленок, сформированных из зо-лей на основе Ti(OC2H5)4, Ti(OC3H7)4 и Ti(OC4H9)4, полученные с помощью растрового элек-тронного микроскопа. Пленки с наименьшим зерном получаются из золя тетраэтоксититана (рис. 1, а), с наибольшим – из золя тетрабутоксититана (рис. 1, в). Однако анализ дифрактограм-мы порошков указывает на большую гомогенность зерна для золя, полученного из тетраизо-проксититана (рис. 1, б).

Рис. 1. РЭМ-изображения образцов, полученных из золей на основе Ti(OC2H5)4 (а, × 100 000), Ti(OC3H7)4

(б, × 150 000), Ti(OC4H9)4 (в, × 50 000)

107

На рис. 2 представлена дифрак- тограмма порошка титаната бария-стронция-кальция, полученного на основе трех золей после отжига при температуре 800 ºС. Увеличенная часть вблизи пика (110) на вставке показывает, что положение пика дифрактограммы порошка, полу-ченного на основе тетраэтоксити-тана, отстает от других. Это озна-чает ухудшение гомогенности кри- сталлитов в этом порошке по срав- нению с двумя другими.

В связи с этим для разработки приборных структур, на наш взгляд, наиболее перспективным представ- ляется золь на основе тетраизопро- ксититана, для которого закономер-ности синтеза ксерогеля исследо-вались более подробно.

На рис. 3 приведены ИК-спектры ксерогеля, высушенного при температуре 70 ºC, и после последующей термообработки при температурах 200, 400, 600 и 800 ºC.

Процесс формирования геля осуществляется путем протекания реакций гидролиза (3) и по-ликонденсации (4) [9]:

2Ti OR H O Ti OH R(OH)≡ − + → ≡ − + (3) Ti OH RO Ti Ti O Ti R(OH)≡ − + − → ≡ − − ≡ + (4)

В спектре образца, сформированного при температуре 70 ºC, в измеренном диапазоне присут-ствуют хорошо различимые полосы поглощения. Полоса поглощения в области 3420–3460 см–1 обусловлена валентными колебаниями связи O–H поверхностных гидроксильных групп и O–H групп физически адсорбированной воды, содержащейся в геле [10]. Полосы поглощения в об-ласти 2800–3000 см–1 принадлежат валентным симметричным и антисимметричным колеба- ниям алифатических СН3-групп и СН2-групп, обусловленных присутствием тетраизопроксити-тана, монометилового эфира этиленгликоля, уксусной кислоты и солей карбоновой кислоты. Полоса поглощения в облас-ти 1701 cм–1 относится к ва-лентным колебаниям C=O в уксусной кислоте, поло- са поглощения 1570 cм–1 и 1417 cм–1 – к валентным сим- метричным и антисимметрич- ным колебаниям С–О в кар-боксильных группах [11]. По- лоса поглощения 1326 cм–1 деформационных колебаний СОО-группы относится к аце- тат-анионам [12]. Три поло-сы в диапазоне 900–1100 cм–1

обусловлены присутствием связей С–O и С–О–С. По- лосы поглощения 938 cм–1 и 1050 cм–1 относятся к сим-метричным и антисимметрич-

Рис. 2. Дифрактограммы порошка ксерогеля, полученного из золя тита-ната бария-стронция-кальция на основе Ti(OC2H5)4 (а), Ti(OC3H7)4 (б), Ti(OC4H9)4 (в), после отжига при температуре 800 ºС

Рис. 3. ИК-спектры образцов после отжига в течение 60 мин при температуре 70, 200, 400, 600 и 800 ºС

107

На рис. 2 представлена дифрак- тограмма порошка титаната бария-стронция-кальция, полученного на основе трех золей после отжига при температуре 800 ºС. Увеличенная часть вблизи пика (110) на вставке показывает, что положение пика дифрактограммы порошка, полу-ченного на основе тетраэтоксити-тана, отстает от других. Это озна-чает ухудшение гомогенности кри- сталлитов в этом порошке по срав- нению с двумя другими.

В связи с этим для разработки приборных структур, на наш взгляд, наиболее перспективным представ- ляется золь на основе тетраизопро- ксититана, для которого закономер-ности синтеза ксерогеля исследо-вались более подробно.

На рис. 3 приведены ИК-спектры ксерогеля, высушенного при температуре 70 ºC, и после последующей термообработки при температурах 200, 400, 600 и 800 ºC.

Процесс формирования геля осуществляется путем протекания реакций гидролиза (3) и по-ликонденсации (4) [9]:

2Ti OR H O Ti OH R(OH)≡ − + → ≡ − + (3) Ti OH RO Ti Ti O Ti R(OH)≡ − + − → ≡ − − ≡ + (4)

В спектре образца, сформированного при температуре 70 ºC, в измеренном диапазоне присут-ствуют хорошо различимые полосы поглощения. Полоса поглощения в области 3420–3460 см–1 обусловлена валентными колебаниями связи O–H поверхностных гидроксильных групп и O–H групп физически адсорбированной воды, содержащейся в геле [10]. Полосы поглощения в об-ласти 2800–3000 см–1 принадлежат валентным симметричным и антисимметричным колеба- ниям алифатических СН3-групп и СН2-групп, обусловленных присутствием тетраизопроксити-тана, монометилового эфира этиленгликоля, уксусной кислоты и солей карбоновой кислоты. Полоса поглощения в облас-ти 1701 cм–1 относится к ва-лентным колебаниям C=O в уксусной кислоте, поло- са поглощения 1570 cм–1 и 1417 cм–1 – к валентным сим- метричным и антисимметрич- ным колебаниям С–О в кар-боксильных группах [11]. По- лоса поглощения 1326 cм–1 деформационных колебаний СОО-группы относится к аце- тат-анионам [12]. Три поло-сы в диапазоне 900–1100 cм–1

обусловлены присутствием связей С–O и С–О–С. По- лосы поглощения 938 cм–1 и 1050 cм–1 относятся к сим-метричным и антисимметрич-

Рис. 2. Дифрактограммы порошка ксерогеля, полученного из золя тита-ната бария-стронция-кальция на основе Ti(OC2H5)4 (а), Ti(OC3H7)4 (б), Ti(OC4H9)4 (в), после отжига при температуре 800 ºС

Рис. 3. ИК-спектры образцов после отжига в течение 60 мин при температуре 70, 200, 400, 600 и 800 ºС

108

ным С–О–С валентным колебаниям [11]. Такие связи С–О–С обусловлены формированием про-изводного Ti(OiPr)4-x(OCH2CH2OCH3)x (x = 1–4) при протекании реакции тетраизопроксититана с монометиловым эфиром этиленгликоля в коллоидном растворе [13]. Полоса поглощения 1023 cм–1 обусловлена колебаниями связей С–О монометилового эфира этиленгликоля [11]. Полосы по-глощения в диапазоне 800–400 cм–1 обусловлены собственными колебаниями решеток металли-ческих оксидов [12; 14].

В спектрах образцов, полученных после термообработки при температуре 200 ºС, интенсив-ность полос поглощения в области 3420–3460 cм–1 и 2800–3000 cм–1 уменьшается, a полоса по-глощения в области 1701 cм–1 практически исчезает. Это обусловлено испарением уксусной ки-слоты и монометилового эфира этиленгликоля при увеличении температуры до 200 ºС.

После термообработки при температуре 400 ºС присутствует полоса поглощения 1387 cм–1, обусловленная деформационными колебаниями связи CH3 в карбоксильной группе [11]. В диа-пазоне 900–1100 cм–1 присутствует только одна полоса поглощения 1059 cм–1, что может свиде-тельствовать о разрыве связи С–О–С. Полоса поглощения около 865 cм–1 обусловлена образо- ванием карбоната, что свидетельствует об образовании фазы карбоната в результате реакции разложения [15]. При увеличении температуры термообработки до 600 ºС и выше данная полоса исчезает, свидетельствуя о разложении солей карбоновой кислоты, что может происходить при кристаллизации титаната бария-стронция-кальция.

При увеличении температуры обработки образцов до 800 ºС в спектре появляется интенсив-ная полоса с максимумом при 539 cм–1, что свидетельствует о превращении аморфных оксидов в кристаллическую структуру.

Наблюдаемые спектроскопические закономерности коррелируют с данными рентгеновской дифракции, полученными для образцов, приготовленных из того же золя, подвергнутых термо-обработке в диапазоне температур 500–800 ºС (рис. 4).

Спектр образцов, отожженных при 500 ºС, указывает на их аморфную природу и присутствие промежуточной фазы. После отжига при температуре 600 ºС на дифрактограмме появляются пики, свидетельствующие о начальном формировании фазы перовскита. Дальнейшее увеличение тем-пературы отжига приводит к формированию более четких пиков, что свидетельствует об упоря- дочивании кристаллической структуры образцов. При температуре отжига 750 ºС происходит полная кристаллизация образца, последующее увеличение температуры не приводит к измене-нию интенсивности пиков на дифрактограмме.

Все наблюдаемые в спектрах линии по положению и относительной интенсивности совпа-дают с известными стандартами для структуры перовскита типа (Ba0,6Sr0,4)TiO3 (PDF Card N 00-034-0411). Можно полагать, что анализируемый ксерогель представляет собой твердый раствор

состава (Ba0,6Sr0,3Ca0,1)TiO3, соответствующий составу син- тезированного золя, посколь- ку других кристаллических фаз, например, фаз оксида ти- тана-анатаз, рутил, брукит, не зарегистрировано.

Заключение. С помощью ИК-спектроскопии и рентге-нофазового анализа исследо-вался процесс индуцирован-ных термообработкой изме-нений в ксерогеле, получен- ных на основе тетраизопрок-сититана. При увеличении температуры до 200 ºС про-исходит испарение остаточ-ных в ксерогеле органиче-ских растворителей. Дальней- шее увеличение температу-

Рис. 4. Дифрактограммы порошка ксерогеля титаната бария-стронция-кальция, полученного на основе Ti(OC3H7)4, после отжига в диапазоне температур 500–800 ºС

108

ным С–О–С валентным колебаниям [11]. Такие связи С–О–С обусловлены формированием про-изводного Ti(OiPr)4-x(OCH2CH2OCH3)x (x = 1–4) при протекании реакции тетраизопроксититана с монометиловым эфиром этиленгликоля в коллоидном растворе [13]. Полоса поглощения 1023 cм–1 обусловлена колебаниями связей С–О монометилового эфира этиленгликоля [11]. Полосы по-глощения в диапазоне 800–400 cм–1 обусловлены собственными колебаниями решеток металли-ческих оксидов [12; 14].

В спектрах образцов, полученных после термообработки при температуре 200 ºС, интенсив-ность полос поглощения в области 3420–3460 cм–1 и 2800–3000 cм–1 уменьшается, a полоса по-глощения в области 1701 cм–1 практически исчезает. Это обусловлено испарением уксусной ки-слоты и монометилового эфира этиленгликоля при увеличении температуры до 200 ºС.

После термообработки при температуре 400 ºС присутствует полоса поглощения 1387 cм–1, обусловленная деформационными колебаниями связи CH3 в карбоксильной группе [11]. В диа-пазоне 900–1100 cм–1 присутствует только одна полоса поглощения 1059 cм–1, что может свиде-тельствовать о разрыве связи С–О–С. Полоса поглощения около 865 cм–1 обусловлена образо- ванием карбоната, что свидетельствует об образовании фазы карбоната в результате реакции разложения [15]. При увеличении температуры термообработки до 600 ºС и выше данная полоса исчезает, свидетельствуя о разложении солей карбоновой кислоты, что может происходить при кристаллизации титаната бария-стронция-кальция.

При увеличении температуры обработки образцов до 800 ºС в спектре появляется интенсив-ная полоса с максимумом при 539 cм–1, что свидетельствует о превращении аморфных оксидов в кристаллическую структуру.

Наблюдаемые спектроскопические закономерности коррелируют с данными рентгеновской дифракции, полученными для образцов, приготовленных из того же золя, подвергнутых термо-обработке в диапазоне температур 500–800 ºС (рис. 4).

Спектр образцов, отожженных при 500 ºС, указывает на их аморфную природу и присутствие промежуточной фазы. После отжига при температуре 600 ºС на дифрактограмме появляются пики, свидетельствующие о начальном формировании фазы перовскита. Дальнейшее увеличение тем-пературы отжига приводит к формированию более четких пиков, что свидетельствует об упоря- дочивании кристаллической структуры образцов. При температуре отжига 750 ºС происходит полная кристаллизация образца, последующее увеличение температуры не приводит к измене-нию интенсивности пиков на дифрактограмме.

Все наблюдаемые в спектрах линии по положению и относительной интенсивности совпа-дают с известными стандартами для структуры перовскита типа (Ba0,6Sr0,4)TiO3 (PDF Card N 00-034-0411). Можно полагать, что анализируемый ксерогель представляет собой твердый раствор

состава (Ba0,6Sr0,3Ca0,1)TiO3, соответствующий составу син- тезированного золя, посколь- ку других кристаллических фаз, например, фаз оксида ти- тана-анатаз, рутил, брукит, не зарегистрировано.

Заключение. С помощью ИК-спектроскопии и рентге-нофазового анализа исследо-вался процесс индуцирован-ных термообработкой изме-нений в ксерогеле, получен- ных на основе тетраизопрок-сититана. При увеличении температуры до 200 ºС про-исходит испарение остаточ-ных в ксерогеле органиче-ских растворителей. Дальней- шее увеличение температу-

Рис. 4. Дифрактограммы порошка ксерогеля титаната бария-стронция-кальция, полученного на основе Ti(OC3H7)4, после отжига в диапазоне температур 500–800 ºС

109

ры отжига приводит к формированию фазы карбоната в результате реакции разложения органи-ческих материалов. При температуре выше 600 ºС происходит превращение промежуточной аморфной фазы в кристаллическую. При температуре отжига 750 ºС завершается полная кри-сталлизация образца с образованием структуры перовскита титаната бария-стронция-кальция.


1. C h a r l e s M. H., H o w a r d R. B., D i a n e L. A. // Proc. оf SPIE. 2008. Vol. 6940. Р. 694025 (12 pages). 2. С м о л е н с к и й Г. А., Р о з г а ч е в К. И. // Журн. техн. физики. 1954. Т. 24, № 10. С. 1751–1760. 3. B i n g Q i n, D e n g r e n J i n, J i n r o n g C h e n g, Z h o n g y a n M e n g // Proc. 15th IEEE Int. Symp. Appl.

Ferroelectrics. 2006. Р. 368–371. 4. H y u n - J i N o h, S u n g - G a p L e e, Y o u n g - H i e L e e, S u n g - P i l N a m // J. of Ceramic Proc. Research.

2008. Vol. 9, N 3. Р. 267–270. 5. Г а п о н е н к о Н. В. Пленки, сформированные золь-гель методом на полупроводниках и в мезопористых

матрицах. Минск, 2003. 6. В и т я з ь П. А., Ш е л е х и н а В. М., П р о х о р о в О. А., Г а п о н е н к о Н. В. // Весцi HAH Беларусi.

Сер. фiз.-тэхн. навук. 2002. № 1. C. 16–20. 7. H o n g X. K., H u G. J., S h a n g J. L. et al. // Appl. Phys. Lett. 2007. Vol. 90. P. 251911 (3 pages). 8. К и м Т х э к в о н, Г а п о н е н к о Н. В., С т е п а н о в а Е. А., Г у с а к о в а С. В. // Докл. БГУИР. 2008. T. 36,

№ 6. С. 58–64. 9. Y o l d a s B. E. // J. of Materials Science. 1986. Vol. 21. Р. 1087–1092.

10. A c q u i s t a N., S c h o e n L. J., L i d e D. R. // J. Chem. Phys. 1968. Vol. 48. P. 1534–1536. 11. К у п ц о в А. Х., Ж и ж и н Г. Н. Фурье-спектры комбинационного рассеяния и инфракрасного поглощения

полимеров. М., 2001. 12. Н а к а м о т о К. ИК спектры и спектры КР неорганических и координационных соединений. М., 1991. 13. S c h u b e r t U. // J. Mater. Chem. 2005. Vol. 15. P. 3701–3715. 14. M o r a n P. D., B o w m a k e r G. A., C o o n e y R. P. et al. // Inorganic Chemistry. 1998. Vol. 37, N 11. P. 2741–2748. 15. H o f f m a n n S., W a s e r R. // J. of the European Ceramic Society. 1999. Vol. 19. P. 1339–1343.

TAEK WON KIM, GAPONENKO N. V., STEPANOVA E. A., RAT,KO A. I.

[email protected]

THERMALLY INDUCED CHANGES IN Ba0.6Sr0.3Ca0.1TiO3 XEROGEL

Summary

We investigated by means of FT-IR and XRD measurements thermally induced peculiarities of synthesis the Ba0.6Sr0.3Ca0.1TiO3 xerogel from three sols on the basis of titanium tetraethoxide (Ti(OC2H5)4), titanium tetrabutoxide (Ti(OC4H9)4), and titanium tetraisoproxide Ti(OC3H7)4. Ti(OC3H7)4 was considered as an adequate material for fabrication of ceramic powder because its xerogel revealed better homogeneity than Ti(OC2H5)4 and smaller particle size than Ti(OC4H9)4. Thermal processing at 200 oC results in the evaporation of the remaining solvents from xerogel and further oxidation decomposition of the alkoxide radicals results in the appearance of carboxylate. Increasing the annealing temperature to 600 oC results in decomposing carboxylate, and 750 oC annealing results in complete formation of the perovskite phase.

109

ры отжига приводит к формированию фазы карбоната в результате реакции разложения органи-ческих материалов. При температуре выше 600 ºС происходит превращение промежуточной аморфной фазы в кристаллическую. При температуре отжига 750 ºС завершается полная кри-сталлизация образца с образованием структуры перовскита титаната бария-стронция-кальция.


1. C h a r l e s M. H., H o w a r d R. B., D i a n e L. A. // Proc. оf SPIE. 2008. Vol. 6940. Р. 694025 (12 pages). 2. С м о л е н с к и й Г. А., Р о з г а ч е в К. И. // Журн. техн. физики. 1954. Т. 24, № 10. С. 1751–1760. 3. B i n g Q i n, D e n g r e n J i n, J i n r o n g C h e n g, Z h o n g y a n M e n g // Proc. 15th IEEE Int. Symp. Appl.

Ferroelectrics. 2006. Р. 368–371. 4. H y u n - J i N o h, S u n g - G a p L e e, Y o u n g - H i e L e e, S u n g - P i l N a m // J. of Ceramic Proc. Research.

2008. Vol. 9, N 3. Р. 267–270. 5. Г а п о н е н к о Н. В. Пленки, сформированные золь-гель методом на полупроводниках и в мезопористых

матрицах. Минск, 2003. 6. В и т я з ь П. А., Ш е л е х и н а В. М., П р о х о р о в О. А., Г а п о н е н к о Н. В. // Весцi HAH Беларусi.

Сер. фiз.-тэхн. навук. 2002. № 1. C. 16–20. 7. H o n g X. K., H u G. J., S h a n g J. L. et al. // Appl. Phys. Lett. 2007. Vol. 90. P. 251911 (3 pages). 8. К и м Т х э к в о н, Г а п о н е н к о Н. В., С т е п а н о в а Е. А., Г у с а к о в а С. В. // Докл. БГУИР. 2008. T. 36,

№ 6. С. 58–64. 9. Y o l d a s B. E. // J. of Materials Science. 1986. Vol. 21. Р. 1087–1092.

10. A c q u i s t a N., S c h o e n L. J., L i d e D. R. // J. Chem. Phys. 1968. Vol. 48. P. 1534–1536. 11. К у п ц о в А. Х., Ж и ж и н Г. Н. Фурье-спектры комбинационного рассеяния и инфракрасного поглощения

полимеров. М., 2001. 12. Н а к а м о т о К. ИК спектры и спектры КР неорганических и координационных соединений. М., 1991. 13. S c h u b e r t U. // J. Mater. Chem. 2005. Vol. 15. P. 3701–3715. 14. M o r a n P. D., B o w m a k e r G. A., C o o n e y R. P. et al. // Inorganic Chemistry. 1998. Vol. 37, N 11. P. 2741–2748. 15. H o f f m a n n S., W a s e r R. // J. of the European Ceramic Society. 1999. Vol. 19. P. 1339–1343.

TAEK WON KIM, GAPONENKO N. V., STEPANOVA E. A., RAT,KO A. I.

[email protected]

THERMALLY INDUCED CHANGES IN Ba0.6Sr0.3Ca0.1TiO3 XEROGEL

Summary

We investigated by means of FT-IR and XRD measurements thermally induced peculiarities of synthesis the Ba0.6Sr0.3Ca0.1TiO3 xerogel from three sols on the basis of titanium tetraethoxide (Ti(OC2H5)4), titanium tetrabutoxide (Ti(OC4H9)4), and titanium tetraisoproxide Ti(OC3H7)4. Ti(OC3H7)4 was considered as an adequate material for fabrication of ceramic powder because its xerogel revealed better homogeneity than Ti(OC2H5)4 and smaller particle size than Ti(OC4H9)4. Thermal processing at 200 oC results in the evaporation of the remaining solvents from xerogel and further oxidation decomposition of the alkoxide radicals results in the appearance of carboxylate. Increasing the annealing temperature to 600 oC results in decomposing carboxylate, and 750 oC annealing results in complete formation of the perovskite phase.

110



УДК 542.943′92:546.623′62:541.183:541.18.0:539.26′25

РОМАНЕНКОВ В. Е.1, ПЕТЮШИК Е. Е.2, АФАНАСЬЕВА Н. А.1

РАСЧЕТ КОЭФФИЦИЕНТА ДИФФУЗИИ В СИСТЕМЕ AL/AL(OH)3/H2O ПРИ ГИДРАТАЦИОННОМ ТВЕРДЕНИИ ПИГМЕНТНОЙ

АЛЮМИНИЕВОЙ ПУДРЫ

(Представлено академиком П. А. Витязем) 1Белорусский национальный технический университет, Минск 2ГНПО порошковой металлургии НАН Беларуси, Минск Поступило 15.06.2009

При гидратационном твердении дисперсного алюминия, как и в процессе любой химической реакции с участием твердого тела, одновременно протекает несколько физико-химических про-цессов – растворение алюминия, формирование раствора ионов алюмината и массовая кристал-лизация гидроксида алюминия в виде пористого слоя на поверхности растворяющегося алюми-ния. Лимитирующей стадией твердения является диффузионный массоперенос водного раствора ионов алюмината от поверхности растворяющегося алюминия через пористый слой к поверхно-стям растущих нанокристаллитов [1; 2], т. е. главным физико-химическим параметром системы является коэффициент диффузии, значение которого необходимо знать для проектирования и контроля технологического процесса. Прямой и наиболее точный метод исследования диффу-зионного процесса и расчета на его основе коэффициента диффузии – метод меченых атомов требует специального оборудования и образцов. Значение коэффициента диффузии при тверде-нии, как и при спекании, можно определить экспериментально (без применения техники мече-ных атомов) с помощью моделирования процесса твердения с различным уровнем детализации кинетической модели. В [3; 4] коэффициент диффузии водного раствора ионов алюмината рас-считан с помощью формальной кинетической модели и на основе экспериментальных данных по кинетике выделения водорода в процессе химической реакции. В [3] взаимодействие порошков алюминия АСД-1, АСД-4 и пигментной алюминиевой пудры ПАП-2 с водой протекало при 100 ºС в условиях перемешивания, что обеспечивало частичный конвективный унос ионов алю-мината в объем жидкости с последующим осаждением порошкообразного байерита на дно реак-тора. В [4] процесс осуществляли в атмосфере водяного пара при температуре 150–250 ºС и дав-лении 500–4500 кПа в течение 0,5–6,5 ч. Количественной характеристикой процесса служила степень превращения α, с помощью которой рассчитывали формальный кинетический параметр – константу скорости реакции k ′ [5]:

2 20,5 ( 0,5),k t′α − α = − (1)

где α, α0,5 – степени превращения алюминия для времени τ и 0,5 ч соответственно. Оценку фи-зически значимого параметра кинетического процесса – величину коэффициентов диффузии проводили на основе допущения о примерном постоянстве удельной поверхности реагента с по-мощью значения k ′ из уравнения, предложенного в [5]

AlOOH2 2

AlOOH уд Al.

2 v

M kDC S М

′=

ρ (2)

Для исследуемых марок дисперсного алюминия были получены следующие значения коэф-фициента диффузии: АСД-1 – 5×10–15, АСД-4 – 3×10–18 и ПАП-2 – 4×10–19 [3], ПА-ВЧ – 167×10–17, ПА-4 – 10×10–17 и для алюминиевой фольги – 2×10–17 м2/с [4]. Известно, что коэффициент диф-

110



УДК 542.943′92:546.623′62:541.183:541.18.0:539.26′25

РОМАНЕНКОВ В. Е.1, ПЕТЮШИК Е. Е.2, АФАНАСЬЕВА Н. А.1

РАСЧЕТ КОЭФФИЦИЕНТА ДИФФУЗИИ В СИСТЕМЕ AL/AL(OH)3/H2O ПРИ ГИДРАТАЦИОННОМ ТВЕРДЕНИИ ПИГМЕНТНОЙ

АЛЮМИНИЕВОЙ ПУДРЫ

(Представлено академиком П. А. Витязем) 1Белорусский национальный технический университет, Минск 2ГНПО порошковой металлургии НАН Беларуси, Минск Поступило 15.06.2009

При гидратационном твердении дисперсного алюминия, как и в процессе любой химической реакции с участием твердого тела, одновременно протекает несколько физико-химических про-цессов – растворение алюминия, формирование раствора ионов алюмината и массовая кристал-лизация гидроксида алюминия в виде пористого слоя на поверхности растворяющегося алюми-ния. Лимитирующей стадией твердения является диффузионный массоперенос водного раствора ионов алюмината от поверхности растворяющегося алюминия через пористый слой к поверхно-стям растущих нанокристаллитов [1; 2], т. е. главным физико-химическим параметром системы является коэффициент диффузии, значение которого необходимо знать для проектирования и контроля технологического процесса. Прямой и наиболее точный метод исследования диффу-зионного процесса и расчета на его основе коэффициента диффузии – метод меченых атомов требует специального оборудования и образцов. Значение коэффициента диффузии при тверде-нии, как и при спекании, можно определить экспериментально (без применения техники мече-ных атомов) с помощью моделирования процесса твердения с различным уровнем детализации кинетической модели. В [3; 4] коэффициент диффузии водного раствора ионов алюмината рас-считан с помощью формальной кинетической модели и на основе экспериментальных данных по кинетике выделения водорода в процессе химической реакции. В [3] взаимодействие порошков алюминия АСД-1, АСД-4 и пигментной алюминиевой пудры ПАП-2 с водой протекало при 100 ºС в условиях перемешивания, что обеспечивало частичный конвективный унос ионов алю-мината в объем жидкости с последующим осаждением порошкообразного байерита на дно реак-тора. В [4] процесс осуществляли в атмосфере водяного пара при температуре 150–250 ºС и дав-лении 500–4500 кПа в течение 0,5–6,5 ч. Количественной характеристикой процесса служила степень превращения α, с помощью которой рассчитывали формальный кинетический параметр – константу скорости реакции k ′ [5]:

2 20,5 ( 0,5),k t′α − α = − (1)

где α, α0,5 – степени превращения алюминия для времени τ и 0,5 ч соответственно. Оценку фи-зически значимого параметра кинетического процесса – величину коэффициентов диффузии проводили на основе допущения о примерном постоянстве удельной поверхности реагента с по-мощью значения k ′ из уравнения, предложенного в [5]

AlOOH2 2

AlOOH уд Al.

2 v

M kDC S М

′=

ρ (2)

Для исследуемых марок дисперсного алюминия были получены следующие значения коэф-фициента диффузии: АСД-1 – 5×10–15, АСД-4 – 3×10–18 и ПАП-2 – 4×10–19 [3], ПА-ВЧ – 167×10–17, ПА-4 – 10×10–17 и для алюминиевой фольги – 2×10–17 м2/с [4]. Известно, что коэффициент диф-

111

фузии водных растворов в пористом теле зависит в основном от размера пор [6; 7]. Структура и толщина пористого слоя байерита на алюминии зависит только от физико-химических пара-метров процесса его формирования и примерно одинакова на порошках, пигментной пудре, про-волоке или компактной детали [8]. Следовательно, формальная кинетическая модель, не содер-жащая информации о природе физико-химических процессов при твердении, не позволяет полу-чить убедительные физически значимые параметры кинетического процесса, в частности значе- ния коэффициента диффузии.

Цель работы – рассчитать коэффициент диффузии для алюминиевой пудры ПАП-2 на основе физико-химической кинетической модели, т. е. модели, разработанной на базе термодинамики фазовых превращений и физической кинетики [1; 9], и с использованием экспериментальных результатов кинетических исследований в [3]. При растворении алюминия в воде в процессе гетерогенной химической реакции из 1 моль алюминия образуется 1 моль гидроксида, т. е. соот-ношение масс имеет вид Al2,89rm mΔ = Δ . Степень превращения (гидратации) алюминия

Al г0 кAl г

m mm mΔ Δ

α = = , (3)

где 0Alm – исходная масса алюминия, к

гm – конечная масса гидроксида (при полном превращении исходного алюминия). В процессе твердения масса растущего слоя байерита на частице пудры увеличивается на

г2rm SΔ = δρ ϑ , (4)

где ϑ и ρг – относительная и пикнометрическая плотность гидроксида соответственно, S – пло-щадь поверхности частицы алюминиевой пудры, δ – толщина слоя байерита на частицах пудры. Одновременно масса алюминия уменьшается на

Al 1 Al2m SΔ = δ ρ , (5)

где δ1 – уменьшение толщины частицы пудры. Используя соотношение масс гидроксида и алю-миния, получим выражение, связывающее текущие толщины исходного и образующегося твер-дых веществ [9]

г1

Al2,89ρ ϑ

δ = δρ

. (6)

Степень превращения алюминия при твердении пудры согласно соотношению (4) имеет вид

г г гк

Al Alг

2 0,7 ,2,89

m SSb bm

Δ δρ ϑ δρ ϑα = = =

ρ ρ (7)

где b – толщина исходной частицы пудры. Подставляя в (7) известные константы (ρг = 2,42×103 кг/м3, 0,5ϑ ≈ – пикнометрическая и относительная плотность байерита соответственно [10]), получим

0,31bδ

α = (8)

или полагая b = 0,5×10–6 м (согласно ГОСТ 5494-95)

2 12 22,56 10 .−δ = × α (9)

Кинетическое уравнение роста толщины слоя гидроксида на сферических частицах алюми-ния [1] и на пластинчатых частицах пигментной пудры [9] имеет вид

2 2 ,w mDC S V tRTσ

δ =ϑ

(10)

из которого следует, что кинетика роста слоя гидроксида не зависит от геометрии частиц алю-миния. Подставляя (10) в (9), можно рассчитать величину коэффициента диффузии

111

фузии водных растворов в пористом теле зависит в основном от размера пор [6; 7]. Структура и толщина пористого слоя байерита на алюминии зависит только от физико-химических пара-метров процесса его формирования и примерно одинакова на порошках, пигментной пудре, про-волоке или компактной детали [8]. Следовательно, формальная кинетическая модель, не содер-жащая информации о природе физико-химических процессов при твердении, не позволяет полу-чить убедительные физически значимые параметры кинетического процесса, в частности значе- ния коэффициента диффузии.

Цель работы – рассчитать коэффициент диффузии для алюминиевой пудры ПАП-2 на основе физико-химической кинетической модели, т. е. модели, разработанной на базе термодинамики фазовых превращений и физической кинетики [1; 9], и с использованием экспериментальных результатов кинетических исследований в [3]. При растворении алюминия в воде в процессе гетерогенной химической реакции из 1 моль алюминия образуется 1 моль гидроксида, т. е. соот-ношение масс имеет вид Al2,89rm mΔ = Δ . Степень превращения (гидратации) алюминия

Al г0 кAl г

m mm mΔ Δ

α = = , (3)

где 0Alm – исходная масса алюминия, к

гm – конечная масса гидроксида (при полном превращении исходного алюминия). В процессе твердения масса растущего слоя байерита на частице пудры увеличивается на

г2rm SΔ = δρ ϑ , (4)

где ϑ и ρг – относительная и пикнометрическая плотность гидроксида соответственно, S – пло-щадь поверхности частицы алюминиевой пудры, δ – толщина слоя байерита на частицах пудры. Одновременно масса алюминия уменьшается на

Al 1 Al2m SΔ = δ ρ , (5)

где δ1 – уменьшение толщины частицы пудры. Используя соотношение масс гидроксида и алю-миния, получим выражение, связывающее текущие толщины исходного и образующегося твер-дых веществ [9]

г1

Al2,89ρ ϑ

δ = δρ

. (6)

Степень превращения алюминия при твердении пудры согласно соотношению (4) имеет вид

г г гк

Al Alг

2 0,7 ,2,89

m SSb bm

Δ δρ ϑ δρ ϑα = = =

ρ ρ (7)

где b – толщина исходной частицы пудры. Подставляя в (7) известные константы (ρг = 2,42×103 кг/м3, 0,5ϑ ≈ – пикнометрическая и относительная плотность байерита соответственно [10]), получим

0,31bδ

α = (8)

или полагая b = 0,5×10–6 м (согласно ГОСТ 5494-95)

2 12 22,56 10 .−δ = × α (9)

Кинетическое уравнение роста толщины слоя гидроксида на сферических частицах алюми-ния [1] и на пластинчатых частицах пигментной пудры [9] имеет вид

2 2 ,w mDC S V tRTσ

δ =ϑ

(10)

из которого следует, что кинетика роста слоя гидроксида не зависит от геометрии частиц алю-миния. Подставляя (10) в (9), можно рассчитать величину коэффициента диффузии

112

12 21,28 10

w m

RTDC S V t

−× α ϑ=

σ. (11)

Экспериментальные результаты исследований (рисунок) иллюстрируют два характерных участка на кинетической зависимости степени превращения пудры ПАП-2 [3]. Первый линей-ный участок свидетельствует о протекании реакции с постоянной скоростью, т. е. в кинетиче-ской области, поскольку в результате перемешивания происходит конвективный унос продукта от реакционной поверхности. Замедление процесса на втором участке – переход реакции в диф-фузионную область вследствие образования на поверхности частиц пористого слоя продукта реакции – байерита. Исключая из графика кинетическую область, длительность которой не пре-вышает 200–250 с, и перенося начало координат в точку с α ≈ 0,55–058 и t = 200–250 c, получим соотношения длительности реакции и степени превращения, приведенные в таблице. Подставляя

в (11) известные константы (газовая постоянная R = 8,31 Дж/К×моль, температура в системе Т ≈ 373 К, концентрации насыщения алюминия в водном рас-творе С = 0,027 кг/м3 [11], удельная поверхность бай-ерита Sw = 53×103 м2/кг [1], молярный объем гидро-ксида алюминия Vm = 23×10–6 м3/моль; межфазная энергия σт-ж ~ 250 мДж/м2 [2]), получим значения ко-эффициента диффузии (таблица). Результаты расчетов удовлетворительно совпадают со значениями, получен- ными в [1], где коэффициент диффузии D ~ 10–11 м2/с был рассчитан на базе физико-химической кинетиче-ской модели и на основе экспериментальной кинети-ческой зависимости степени превращения, определен-ной при 100 ºС по выделению водорода из закрытой формы, где осуществляли процесс гидратационного твердения порошка АСД-1.

Результаты расчета коэффициента диффузии

t, с 500 1000 1500 2000 2250

α 0,24 0,34 0,38 0,4 0,43

D, м2/с 3×10–11 3×10–11 2,5×10–11 2×10–11 2×10–11 Незначительное отличие обусловлено, вероятно, различными условиями проведения кинети-

ческого эксперимента в [1] и [3]. Рассчитанное значение D удовлетворительно совпадает с ре-зультатами расчетов коэффициента диффузии в цементе. Так, в [12] значение коэффициента диффузии гидратированных катионов Са2+ в цементном тесте, полученное методом радиоактив-ных изотопов, составило D = 0,05×10–11 м2/с, коэффициент диффузии ионов Li+, Na+, K+ в порт-ландцементном тесте, по данным [13], составил D = (0,14…0,33)×10–11 м2/с, а авторы [14] в рам-ках изучения проблемы защиты железобетонных конструкций от коррозии показали, что коэф-фициент диффузии хлоридов в рядовых бетонах находится в пределах (0,12…1,1)×10–11 м2/с. В приведенных публикациях коэффициент диффузии различных ионов в твердеющем бетоне (цементном камне) находится в пределах 10–10…10–11 м2/с. Процессы гидратационного твердения бетона и дисперсного алюминия с точки зрения протекающих физико-химических процессов, а также образующаяся при этом микроструктура практически идентичны [15]. Учитывая оце-ночный характер приведенных расчетов, а также удовлетворительное их подтверждение в [9] исследованиями на СЭМ, можно сделать вывод, что расчет коэффициента диффузии на основе физико-химической кинетической модели дает значительно более точные результаты.

Литература 1. Р а т ь к о А. И., Р о м а н е н к о в В. Е., Б о л о т н и к о в а Е. В., К р у п е н ь к и н а Ж. В. // Кинетика

и катализ. 2004. Т. 45, № 1. С. 162–168. 2. Р а т ь к о А. И., К у з н е ц о в а Т. Ф., Р о м а н е н к о в В. Е., К л е в ч е н я Д. И. // Коллоидный журн.

2008. Т. 70, № 2. С. 235–239.

0 500 1000 1500 2000 2500

0,0

0,2

0,4

0,6

0,8

1,0

Con

vers

ion

(arb

.un.

)

Time (sec)

ASD-1 ASD-4 PAP-2

Кинетические зависимости степени превращенияразличных видов дисперсного алюминия пари 100 °С [3]

112

12 21,28 10

w m

RTDC S V t

−× α ϑ=

σ. (11)

Экспериментальные результаты исследований (рисунок) иллюстрируют два характерных участка на кинетической зависимости степени превращения пудры ПАП-2 [3]. Первый линей-ный участок свидетельствует о протекании реакции с постоянной скоростью, т. е. в кинетиче-ской области, поскольку в результате перемешивания происходит конвективный унос продукта от реакционной поверхности. Замедление процесса на втором участке – переход реакции в диф-фузионную область вследствие образования на поверхности частиц пористого слоя продукта реакции – байерита. Исключая из графика кинетическую область, длительность которой не пре-вышает 200–250 с, и перенося начало координат в точку с α ≈ 0,55–058 и t = 200–250 c, получим соотношения длительности реакции и степени превращения, приведенные в таблице. Подставляя

в (11) известные константы (газовая постоянная R = 8,31 Дж/К×моль, температура в системе Т ≈ 373 К, концентрации насыщения алюминия в водном рас-творе С = 0,027 кг/м3 [11], удельная поверхность бай-ерита Sw = 53×103 м2/кг [1], молярный объем гидро-ксида алюминия Vm = 23×10–6 м3/моль; межфазная энергия σт-ж ~ 250 мДж/м2 [2]), получим значения ко-эффициента диффузии (таблица). Результаты расчетов удовлетворительно совпадают со значениями, получен- ными в [1], где коэффициент диффузии D ~ 10–11 м2/с был рассчитан на базе физико-химической кинетиче-ской модели и на основе экспериментальной кинети-ческой зависимости степени превращения, определен-ной при 100 ºС по выделению водорода из закрытой формы, где осуществляли процесс гидратационного твердения порошка АСД-1.

Результаты расчета коэффициента диффузии

t, с 500 1000 1500 2000 2250

α 0,24 0,34 0,38 0,4 0,43

D, м2/с 3×10–11 3×10–11 2,5×10–11 2×10–11 2×10–11 Незначительное отличие обусловлено, вероятно, различными условиями проведения кинети-

ческого эксперимента в [1] и [3]. Рассчитанное значение D удовлетворительно совпадает с ре-зультатами расчетов коэффициента диффузии в цементе. Так, в [12] значение коэффициента диффузии гидратированных катионов Са2+ в цементном тесте, полученное методом радиоактив-ных изотопов, составило D = 0,05×10–11 м2/с, коэффициент диффузии ионов Li+, Na+, K+ в порт-ландцементном тесте, по данным [13], составил D = (0,14…0,33)×10–11 м2/с, а авторы [14] в рам-ках изучения проблемы защиты железобетонных конструкций от коррозии показали, что коэф-фициент диффузии хлоридов в рядовых бетонах находится в пределах (0,12…1,1)×10–11 м2/с. В приведенных публикациях коэффициент диффузии различных ионов в твердеющем бетоне (цементном камне) находится в пределах 10–10…10–11 м2/с. Процессы гидратационного твердения бетона и дисперсного алюминия с точки зрения протекающих физико-химических процессов, а также образующаяся при этом микроструктура практически идентичны [15]. Учитывая оце-ночный характер приведенных расчетов, а также удовлетворительное их подтверждение в [9] исследованиями на СЭМ, можно сделать вывод, что расчет коэффициента диффузии на основе физико-химической кинетической модели дает значительно более точные результаты.

Литература 1. Р а т ь к о А. И., Р о м а н е н к о в В. Е., Б о л о т н и к о в а Е. В., К р у п е н ь к и н а Ж. В. // Кинетика

и катализ. 2004. Т. 45, № 1. С. 162–168. 2. Р а т ь к о А. И., К у з н е ц о в а Т. Ф., Р о м а н е н к о в В. Е., К л е в ч е н я Д. И. // Коллоидный журн.

2008. Т. 70, № 2. С. 235–239.

0 500 1000 1500 2000 2500

0,0

0,2

0,4

0,6

0,8

1,0

Con

vers

ion

(arb

.un.

)

Time (sec)

ASD-1 ASD-4 PAP-2

Кинетические зависимости степени превращенияразличных видов дисперсного алюминия пари 100 °С [3]

113

3. T i k h o v S. F., S a d y k o v V. A., R a t k o A. I. et al. // React. Kinet. Catal. Lett. 2007. Vol. 92, N 1. P. 83–88. 4. Т и х о в C. Ф., П о т а п о в а Ю. В., Ф е н е л о н о в В. Б. и др. // Кинетика и катализ. 2003. Т. 44, вып. 2.

С. 322–334. 5. Р о з о в с к и й А. Я. Гетерогенные химические реакции (кинетика и макрокинетика). М., 1980. – 320 с. 6. А к с е л ь р у д Г. А., А л ь т ш у л е р М. А. Введение в капиллярно-химическую технологию. М., 1983. – 264 с. 7. Д е р я г и н Б. В., О в ч а р е н к о Ф. Д., Ч у р а е в Н. В. Вода в дисперсных системах. М., 1989. – 288 с. 8. П е т ю ш и к Т. Е., Р о м а н е н к о в В. Е., П е т ю ш и к Е. Е., Ка л и н и ч е н к о А. С. // Пористые про-

ницаемые материалы: технологии и изделия на их основе: Материалы 3-го междунар. симпозиума, 21–22 окт. 2008 г. Минск, 2008. С. 254–261.

9. Р о м а н е н к о в В. Е., А ф а н а с ь е в а Н. А. // Порошковая металлургия: Сб. Минск, 2008. Вып. 31. С. 64–69. 10. Д з и с ь к о В. А., К а р н а у х о в А. П., Т а р а с о в а Д. В. Физико-химические основы синтеза окисных

катализаторов. Новосибирск, 1978. – 384 с. 11. B e r s i l l o n J., B r o w n D. W., F i e s s i n g e r F., H e m J. D. // J. Res. U. S. Geol. Surv. 1978. Vol. 6, N 3.

P. 325–337. 12. В и л к о в С. М., Г а й д ж у р о в П. П., Р о т ы ч Н. В. и др. // Журн. приклад. химии. 1979. № 1. С. 60–64. 13. Т е й л о р Х. Химия цемента. М., 1996. – 560 с. 14. Р о з е н т а л ь Н. К., Ч е х н и й Г. В. // Бетон и железобетон. 1998. № 1. С. 27–29. 15. Р о м а н е н к о в В. Е. // Вестн. фонда фундаментальных исследований. 2007. № 1. С. 62–68.

ROMANENKOV V. E., PETYUSHIK E. E., AFANASJEVA N. A.

[email protected]

CALCULATION OF THE DIFFUSION COEFFICIENT IN THE AL/AL(OH)3/H2O SYSTEM UNDER HYDRATION HARDENING OF PIGMENT ALUMINUM POWDER

Summary

In the present work the diffusion coefficient of the aqueous solution of Al(OH)4– ions from the surface of dissolving aluminum

through the porous layer to the growing nanocrystallites is calculated using the physical-chemical kinetic model. It is shown that the use of the physical-chemical model allows one to greatly raise the calculation accuracy of the diffusion coefficient.

113

3. T i k h o v S. F., S a d y k o v V. A., R a t k o A. I. et al. // React. Kinet. Catal. Lett. 2007. Vol. 92, N 1. P. 83–88. 4. Т и х о в C. Ф., П о т а п о в а Ю. В., Ф е н е л о н о в В. Б. и др. // Кинетика и катализ. 2003. Т. 44, вып. 2.

С. 322–334. 5. Р о з о в с к и й А. Я. Гетерогенные химические реакции (кинетика и макрокинетика). М., 1980. – 320 с. 6. А к с е л ь р у д Г. А., А л ь т ш у л е р М. А. Введение в капиллярно-химическую технологию. М., 1983. – 264 с. 7. Д е р я г и н Б. В., О в ч а р е н к о Ф. Д., Ч у р а е в Н. В. Вода в дисперсных системах. М., 1989. – 288 с. 8. П е т ю ш и к Т. Е., Р о м а н е н к о в В. Е., П е т ю ш и к Е. Е., Ка л и н и ч е н к о А. С. // Пористые про-

ницаемые материалы: технологии и изделия на их основе: Материалы 3-го междунар. симпозиума, 21–22 окт. 2008 г. Минск, 2008. С. 254–261.

9. Р о м а н е н к о в В. Е., А ф а н а с ь е в а Н. А. // Порошковая металлургия: Сб. Минск, 2008. Вып. 31. С. 64–69. 10. Д з и с ь к о В. А., К а р н а у х о в А. П., Т а р а с о в а Д. В. Физико-химические основы синтеза окисных

катализаторов. Новосибирск, 1978. – 384 с. 11. B e r s i l l o n J., B r o w n D. W., F i e s s i n g e r F., H e m J. D. // J. Res. U. S. Geol. Surv. 1978. Vol. 6, N 3.

P. 325–337. 12. В и л к о в С. М., Г а й д ж у р о в П. П., Р о т ы ч Н. В. и др. // Журн. приклад. химии. 1979. № 1. С. 60–64. 13. Т е й л о р Х. Химия цемента. М., 1996. – 560 с. 14. Р о з е н т а л ь Н. К., Ч е х н и й Г. В. // Бетон и железобетон. 1998. № 1. С. 27–29. 15. Р о м а н е н к о в В. Е. // Вестн. фонда фундаментальных исследований. 2007. № 1. С. 62–68.

ROMANENKOV V. E., PETYUSHIK E. E., AFANASJEVA N. A.

[email protected]

CALCULATION OF THE DIFFUSION COEFFICIENT IN THE AL/AL(OH)3/H2O SYSTEM UNDER HYDRATION HARDENING OF PIGMENT ALUMINUM POWDER

Summary

In the present work the diffusion coefficient of the aqueous solution of Al(OH)4– ions from the surface of dissolving aluminum

through the porous layer to the growing nanocrystallites is calculated using the physical-chemical kinetic model. It is shown that the use of the physical-chemical model allows one to greatly raise the calculation accuracy of the diffusion coefficient.

114



УДК 621.937

В. Т. МИНЧЕНЯ, Д. А. СТЕПАНЕНКО

ЛИНЕЙНЫЕ КОЛЕБАНИЯ ДВУХСТУПЕНЧАТОГО ВОЛНОВОДА-КОНЦЕНТРАТОРА ДЛЯ УЛЬТРАЗВУКОВОГО ТРОМБОЛИЗИСА

(Представлено членом-корреспондентом Ю. М. Плескачевским)

Белорусский национальный технический университет, Минск Поступило 07.10.2009

Введение. В настоящее время гибкие волноводы-концентраторы широко используются в технике и медицине, в частности для ультразвукового тромболизиса, контактной литотрипсии, в эндоскопической нейрохирургии, для разогрева топлива при низких температурах, а также очистки каналов и полостей в технических системах различного назначения. Отличительной особенностью гибких волноводов-концентраторов является возможность их упругой деформа-ции с целью введения в криволинейные каналы сложной формы, например, кровеносные сосуды, уретру или каналы технических систем. Мотивацией при постановке цели данной работы по-служил тот факт, что, к сожалению, на сегодняшний день отсутствуют инженерные методики, позволяющие производить расчет и проектирование гибких волноводов-концентраторов, и эти проблемы решаются на основе эмпирических данных, что требует использования метода проб и ошибок.

Цель работы – разработка и верификация инженерной методики проектирования гибких вол-новодов-концентраторов, применяемых в минимально-инвазивной ультразвуковой хирургии, в частности для ангиопластики кровеносных сосудов (тромболизиса).

Методика исследования. Исследуемый волновод-концентратор состоит из двух ступеней 1 и 2 цилиндрической формы, сопряженных между собой переходным участком 3 с непрерывно изменяющимся диаметром (рис. 1). Так как ступени имеют различный диаметр, волновод обес-

печивает усиление колебаний по ампли-туде, в связи с чем мы используем тер-мин «волновод-концентратор». Форма пе-реходного участка, обеспечивающая наи- более эффективную передачу колебаний по волноводу-концентратору, установле-на опытно-экспериментальным путем [1] и может быть задана значениями диа-метра id в сечениях с координатами ix ,

1,2,..,i N= (табл. 1).

Т а б л и ц а 1. Параметры переходного участка волновода-концентратора

Координата ix , мм 0 1 2 3 4 5 6

Диаметр id , мм 2 1,89 1,62 1,33 1,13 1 0,9

Для математического описания формы переходного участка необходимо решить задачу ин-

терполяции, т. е. построить такую функцию d(x), которая будет принимать заданные значения id в точках с координатами ix . Так как наиболее часто используемой является полиномиальная интерполяция, то будем описывать форму переходного участка с помощью многочлена вида

Рис. 1. Схема конструкции волновода-концентратора

114



УДК 621.937

В. Т. МИНЧЕНЯ, Д. А. СТЕПАНЕНКО

ЛИНЕЙНЫЕ КОЛЕБАНИЯ ДВУХСТУПЕНЧАТОГО ВОЛНОВОДА-КОНЦЕНТРАТОРА ДЛЯ УЛЬТРАЗВУКОВОГО ТРОМБОЛИЗИСА

(Представлено членом-корреспондентом Ю. М. Плескачевским)

Белорусский национальный технический университет, Минск Поступило 07.10.2009

Введение. В настоящее время гибкие волноводы-концентраторы широко используются в технике и медицине, в частности для ультразвукового тромболизиса, контактной литотрипсии, в эндоскопической нейрохирургии, для разогрева топлива при низких температурах, а также очистки каналов и полостей в технических системах различного назначения. Отличительной особенностью гибких волноводов-концентраторов является возможность их упругой деформа-ции с целью введения в криволинейные каналы сложной формы, например, кровеносные сосуды, уретру или каналы технических систем. Мотивацией при постановке цели данной работы по-служил тот факт, что, к сожалению, на сегодняшний день отсутствуют инженерные методики, позволяющие производить расчет и проектирование гибких волноводов-концентраторов, и эти проблемы решаются на основе эмпирических данных, что требует использования метода проб и ошибок.

Цель работы – разработка и верификация инженерной методики проектирования гибких вол-новодов-концентраторов, применяемых в минимально-инвазивной ультразвуковой хирургии, в частности для ангиопластики кровеносных сосудов (тромболизиса).

Методика исследования. Исследуемый волновод-концентратор состоит из двух ступеней 1 и 2 цилиндрической формы, сопряженных между собой переходным участком 3 с непрерывно изменяющимся диаметром (рис. 1). Так как ступени имеют различный диаметр, волновод обес-

печивает усиление колебаний по ампли-туде, в связи с чем мы используем тер-мин «волновод-концентратор». Форма пе-реходного участка, обеспечивающая наи- более эффективную передачу колебаний по волноводу-концентратору, установле-на опытно-экспериментальным путем [1] и может быть задана значениями диа-метра id в сечениях с координатами ix ,

1,2,..,i N= (табл. 1).

Т а б л и ц а 1. Параметры переходного участка волновода-концентратора

Координата ix , мм 0 1 2 3 4 5 6

Диаметр id , мм 2 1,89 1,62 1,33 1,13 1 0,9

Для математического описания формы переходного участка необходимо решить задачу ин-

терполяции, т. е. построить такую функцию d(x), которая будет принимать заданные значения id в точках с координатами ix . Так как наиболее часто используемой является полиномиальная интерполяция, то будем описывать форму переходного участка с помощью многочлена вида

Рис. 1. Схема конструкции волновода-концентратора

115

1

0( )

N ii

id x a x

+

== ∑ ,

где N – количество точек, в которых заданы значения диаметра (в рассматриваемом случае N = 7); ia – коэффициенты, определяемые из условий ( )i id x d= и условий гладкого сопряжения переходного участка со ступенями (0) 0d ′ = , ( ) 0Nd x′ = .

Для получения условий резонанса изгибных колебаний волновода-концентратора использу-ются уравнения Эйлера–Бернулли (1) и Тимошенко (2), описывающие колебания балок и стерж-ней переменного сечения [2],

2( ( ) ) ( ) 0EJ x S x′′ ′′η + ρω η = ; (1) 2( ( ) ) ( )( ) ( ) 0sEJ x K GS x J x′ ′ ′α + η −α +ω ρ α = ; 2( ( ) ) ( ( ) ) ( ) 0s sK GS x K GS x S x′ ′ ′η − α + ω ρ η = , (2)

где E – модуль упругости материала волновода-концентратора; 4( ) ( ) 64J x d x= π – осевой мо-мент инерции поперечного сечения волновода-концентратора; ( )xη – амплитуда поперечных смещений; ρ – плотность материала волновода-концентратора; 2 fω= π – циклическая частота колебаний; 2( ) 0,25 ( )S x d x= π – площадь поперечного сечения волновода-концентратора; ( )xα – амплитуда угловых смещений сечения волновода-концентратора; sK – коэффициент формы по-перечного сечения волновода-концентратора; G – модуль сдвиговой упругости материала волно-вода-концентратора.

Теория Тимошенко является наиболее точной инженерной теорией изгибных колебаний и по сравнению с теорией Эйлера–Бернулли дополнительно учитывает такие факторы, как сдвиговая деформация и инерция вращения. В некоторых задачах достаточную для практических прило-жений точность дает использование теории Эйлера–Бернулли, однако в рассматриваемом случае проводится сравнительный анализ результатов применения обеих теорий и, как будет показано ниже, предпочтительным оказывается использование теории Тимошенко.

Для волновода-концентратора с круговым поперечным сечением 6(1 ) (7 6 )sK = + ν + ν , где ν – коэффициент Пуассона материала волновода-концентратора. Для последующего численного анализа уравнения (2) удобно представить в виде системы

1 3y y′ = ; 2 4y y′ = ; 3 1 1 2 1 2 3 1 1 4( )y a f a y f y a f y′ = − − − ; 4 2 1 2 2 1 3 2 40,5 0,5y f y a y a y f y′ = ⋅ − + − ⋅ , (3)

где 1y = α ; 2y = η ; 3y ′= α ; 4y ′= η ; 21( ) 16 ( )f x d x= ; 2 ( ) 4 ( ) ( )f x d x d x′= ; 1 sa K G E= ;

22a E= ω ρ .

Частное решение ( )1 2 3 4( ) ( ) ( ) ( ) ( ) Ty x y x y x y x y x= системы (3) при произвольных гранич-ных условиях 1(0)y , 2 (0)y , 3(0)y , 4 (0)y ( (0)α , (0)η , (0)′α , (0)′η ) можно представить в виде разложения

(1) (2) (3) (4)1 2 3 4( ) (0) ( ) (0) ( ) (0) ( ) (0) ( )y x y y x y y x y y x y y x= + + + ,

где ( )( ) ( ) ( ) ( )( )1 2 3 4( ) ( ) ( ) ( ) ( )

Ti i i iiy x y x y x y x y x= – базисные вектор-функции разложения, опреде-

ляемые равенством ( ) ( ) ( )( ) ( ) (0)i i iiy x y x y= ( 1...4i = ); ( )( ) ( ) ( ) ( )( )

1 2 3 4( ) ( ) ( ) ( ) ( )Ti i i iiy x y x y x y x y x= –

частное решение системы (3) при граничных условиях ( )1 2 3 4(0) Ti i i iy = δ δ δ δ , ijδ – символ

Кронекера. Элементы вектора граничных условий предполагаются имеющими размерности, со-ответствующие размерностям элементов вектора ( )y x .

Базисные вектор-функции зависят от формы переходного участка и могут быть определены численными методами, например, методом Рунге–Кутта. Для ступеней волновода-концент- ратора, имеющих постоянные параметры поперечного сечения, из уравнений (2) следуют два

115

1

0( )

N ii

id x a x

+

== ∑ ,

где N – количество точек, в которых заданы значения диаметра (в рассматриваемом случае N = 7); ia – коэффициенты, определяемые из условий ( )i id x d= и условий гладкого сопряжения переходного участка со ступенями (0) 0d ′ = , ( ) 0Nd x′ = .

Для получения условий резонанса изгибных колебаний волновода-концентратора использу-ются уравнения Эйлера–Бернулли (1) и Тимошенко (2), описывающие колебания балок и стерж-ней переменного сечения [2],

2( ( ) ) ( ) 0EJ x S x′′ ′′η + ρω η = ; (1) 2( ( ) ) ( )( ) ( ) 0sEJ x K GS x J x′ ′ ′α + η −α +ω ρ α = ; 2( ( ) ) ( ( ) ) ( ) 0s sK GS x K GS x S x′ ′ ′η − α + ω ρ η = , (2)

где E – модуль упругости материала волновода-концентратора; 4( ) ( ) 64J x d x= π – осевой мо-мент инерции поперечного сечения волновода-концентратора; ( )xη – амплитуда поперечных смещений; ρ – плотность материала волновода-концентратора; 2 fω= π – циклическая частота колебаний; 2( ) 0,25 ( )S x d x= π – площадь поперечного сечения волновода-концентратора; ( )xα – амплитуда угловых смещений сечения волновода-концентратора; sK – коэффициент формы по-перечного сечения волновода-концентратора; G – модуль сдвиговой упругости материала волно-вода-концентратора.

Теория Тимошенко является наиболее точной инженерной теорией изгибных колебаний и по сравнению с теорией Эйлера–Бернулли дополнительно учитывает такие факторы, как сдвиговая деформация и инерция вращения. В некоторых задачах достаточную для практических прило-жений точность дает использование теории Эйлера–Бернулли, однако в рассматриваемом случае проводится сравнительный анализ результатов применения обеих теорий и, как будет показано ниже, предпочтительным оказывается использование теории Тимошенко.

Для волновода-концентратора с круговым поперечным сечением 6(1 ) (7 6 )sK = + ν + ν , где ν – коэффициент Пуассона материала волновода-концентратора. Для последующего численного анализа уравнения (2) удобно представить в виде системы

1 3y y′ = ; 2 4y y′ = ; 3 1 1 2 1 2 3 1 1 4( )y a f a y f y a f y′ = − − − ; 4 2 1 2 2 1 3 2 40,5 0,5y f y a y a y f y′ = ⋅ − + − ⋅ , (3)

где 1y = α ; 2y = η ; 3y ′= α ; 4y ′= η ; 21( ) 16 ( )f x d x= ; 2 ( ) 4 ( ) ( )f x d x d x′= ; 1 sa K G E= ;

22a E= ω ρ .

Частное решение ( )1 2 3 4( ) ( ) ( ) ( ) ( ) Ty x y x y x y x y x= системы (3) при произвольных гранич-ных условиях 1(0)y , 2 (0)y , 3(0)y , 4 (0)y ( (0)α , (0)η , (0)′α , (0)′η ) можно представить в виде разложения

(1) (2) (3) (4)1 2 3 4( ) (0) ( ) (0) ( ) (0) ( ) (0) ( )y x y y x y y x y y x y y x= + + + ,

где ( )( ) ( ) ( ) ( )( )1 2 3 4( ) ( ) ( ) ( ) ( )

Ti i i iiy x y x y x y x y x= – базисные вектор-функции разложения, опреде-

ляемые равенством ( ) ( ) ( )( ) ( ) (0)i i iiy x y x y= ( 1...4i = ); ( )( ) ( ) ( ) ( )( )

1 2 3 4( ) ( ) ( ) ( ) ( )Ti i i iiy x y x y x y x y x= –

частное решение системы (3) при граничных условиях ( )1 2 3 4(0) Ti i i iy = δ δ δ δ , ijδ – символ

Кронекера. Элементы вектора граничных условий предполагаются имеющими размерности, со-ответствующие размерностям элементов вектора ( )y x .

Базисные вектор-функции зависят от формы переходного участка и могут быть определены численными методами, например, методом Рунге–Кутта. Для ступеней волновода-концент- ратора, имеющих постоянные параметры поперечного сечения, из уравнений (2) следуют два

116

уравнения четвертого порядка относительно функций ( )xη и ( )xα , решения которых могут быть представлены в аналитической форме

1 1 1 1 1 2 1 1 3 2 1 4 2 1

2 2 5 3 2 6 3 2 7 4 2 8 4 2

1 1 1 1 1 2 1 1 3 2 1 4 2 1

2 2 5 3 2 6 3 2 7 4 2

( ) sin( ) cos( ) sh( ) ch( );( ) sin( ) cos( ) sh( ) ch( );

( ) sin( ) cos( ) sh( ) ch( );( ) sin( ) cos( ) sh( )

x X x X x X x X xx X x X x X x X x

x Y x Y x Y x Y xx Y x Y x Y x

η = κ + κ + κ + κη = κ + κ + κ + κ

α = κ + κ + κ + κ

α = κ + κ + κ 8 4 2ch( ),Y x+ κ

(4)

где 1x и 2x – координаты, отсчитываемые вдоль оси волновода-концентратора от входных сече-ний первой и второй ступеней соответственно (рис. 1), волновые числа κ определяются соотно-шениями

22 4 2

1,2 2 4 2 21

161 12 4s s

E EK G K Gc c c D

⎛ ⎞ ⎛ ⎞ω ω ωκ = ± + + − +⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠;

22 4 2

3,4 2 4 2 22

161 12 4s s

E EK G K Gc c c D

⎛ ⎞ ⎛ ⎞ω ω ωκ = ± + + − +⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠,

где c E= ρ – скорость продольной стержневой ультразвуковой волны в материале волновода-концентратора; 1D и 2D – диаметры первой и второй ступеней волновода-концентратора. Для определения коэффициентов iX и ( 1...8)iY i = необходимо рассмотреть граничные условия на концах волновода-концентратора (условия закрепления) и условия, выражающие непрерыв-ность решений в сечениях, в которых переходный участок сопрягается со ступенями. Условия закрепления имеют вид

1 1 2 2 2 2 2 2(0) 0; (0) 0; ( ) 0; ( ) ( ) 0L L L′ ′η = α = α = η −α = , (5)

а условия непрерывности можно записать в форме

1 1 1 1 1 1 1 1

2 2 2 2

(0) ( ); (0) ( ); (0) ( ); (0) ( );(0) ( ); (0) ( ); (0) ( ); (0) ( ),

L L L LL L L L

′ ′ ′ ′η = η η = η α = α α = α′ ′ ′ ′η = η Δ η = η Δ α = α Δ α = α Δ

(6)

где 1L и 2L – длина первой и второй ступеней волновода-концентратора; LΔ – длина переход-ного участка.

Разложение решений для переходного участка по базисным функциям позволяет исключить из условий (6) неизвестные параметры, относящиеся к переходному участку, и свести их к гра-ничным условиям, которые содержат лишь значения базисных функций и параметры, относя-щиеся к первой и второй ступеням:

(1) (2) (3) (4)2 1 1 1 1 1 1 1 12 2 2 2

(1) (2) (3) (4)2 1 1 1 1 1 1 1 12 2 2 2

(1) (2)2 1 1 1 1 11 1

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( )

L y L L y L L y L L y L


L y L L y L

′ ′η = α Δ + η Δ + α Δ + η Δ′ ′ ′ ′′ ′ ′η = α Δ + η Δ + α Δ + η Δ

′α = α Δ + η Δ + α (3) (4)1 1 11 1

(1) (2) (3) (4)2 1 1 1 1 1 1 1 11 1 1 1

( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ).

L y L L y L


′Δ + η Δ′ ′ ′ ′′ ′ ′α = α Δ + η Δ + α Δ + η Δ

(7)

Линейная зависимость, описываемая уравнениями (7), согласуется с тем фактом, что значе-ния параметров во входном и выходном сечениях колебательной системы или ее участка могут быть связаны посредством матрицы, называемой матрицей перехода (передаточной матрицей) [3].

Так как уравнения (2) имеют второй порядок относительно функций ( )xη и ( )xα , то для ка-ждой из ступеней волновода-концентратора решения (4) содержат четыре линейно-независимых коэффициента. Остальные коэффициенты будут связаны с ними линейной зависимостью. Если

116

уравнения четвертого порядка относительно функций ( )xη и ( )xα , решения которых могут быть представлены в аналитической форме

1 1 1 1 1 2 1 1 3 2 1 4 2 1

2 2 5 3 2 6 3 2 7 4 2 8 4 2

1 1 1 1 1 2 1 1 3 2 1 4 2 1

2 2 5 3 2 6 3 2 7 4 2

( ) sin( ) cos( ) sh( ) ch( );( ) sin( ) cos( ) sh( ) ch( );

( ) sin( ) cos( ) sh( ) ch( );( ) sin( ) cos( ) sh( )

x X x X x X x X xx X x X x X x X x

x Y x Y x Y x Y xx Y x Y x Y x

η = κ + κ + κ + κη = κ + κ + κ + κ

α = κ + κ + κ + κ

α = κ + κ + κ 8 4 2ch( ),Y x+ κ

(4)

где 1x и 2x – координаты, отсчитываемые вдоль оси волновода-концентратора от входных сече-ний первой и второй ступеней соответственно (рис. 1), волновые числа κ определяются соотно-шениями

22 4 2

1,2 2 4 2 21

161 12 4s s

E EK G K Gc c c D

⎛ ⎞ ⎛ ⎞ω ω ωκ = ± + + − +⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠;

22 4 2

3,4 2 4 2 22

161 12 4s s

E EK G K Gc c c D

⎛ ⎞ ⎛ ⎞ω ω ωκ = ± + + − +⎜ ⎟ ⎜ ⎟

⎝ ⎠ ⎝ ⎠,

где c E= ρ – скорость продольной стержневой ультразвуковой волны в материале волновода-концентратора; 1D и 2D – диаметры первой и второй ступеней волновода-концентратора. Для определения коэффициентов iX и ( 1...8)iY i = необходимо рассмотреть граничные условия на концах волновода-концентратора (условия закрепления) и условия, выражающие непрерыв-ность решений в сечениях, в которых переходный участок сопрягается со ступенями. Условия закрепления имеют вид

1 1 2 2 2 2 2 2(0) 0; (0) 0; ( ) 0; ( ) ( ) 0L L L′ ′η = α = α = η −α = , (5)

а условия непрерывности можно записать в форме

1 1 1 1 1 1 1 1

2 2 2 2

(0) ( ); (0) ( ); (0) ( ); (0) ( );(0) ( ); (0) ( ); (0) ( ); (0) ( ),

L L L LL L L L

′ ′ ′ ′η = η η = η α = α α = α′ ′ ′ ′η = η Δ η = η Δ α = α Δ α = α Δ

(6)

где 1L и 2L – длина первой и второй ступеней волновода-концентратора; LΔ – длина переход-ного участка.

Разложение решений для переходного участка по базисным функциям позволяет исключить из условий (6) неизвестные параметры, относящиеся к переходному участку, и свести их к гра-ничным условиям, которые содержат лишь значения базисных функций и параметры, относя-щиеся к первой и второй ступеням:

(1) (2) (3) (4)2 1 1 1 1 1 1 1 12 2 2 2

(1) (2) (3) (4)2 1 1 1 1 1 1 1 12 2 2 2

(1) (2)2 1 1 1 1 11 1

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( )



L y L L y L

′ ′η = α Δ + η Δ + α Δ + η Δ′ ′ ′ ′′ ′ ′η = α Δ + η Δ + α Δ + η Δ

′α = α Δ + η Δ + α (3) (4)1 1 11 1

(1) (2) (3) (4)2 1 1 1 1 1 1 1 11 1 1 1

( ) ( ) ( ) ( );

(0) ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ).

L y L L y L


′Δ + η Δ′ ′ ′ ′′ ′ ′α = α Δ + η Δ + α Δ + η Δ

(7)

Линейная зависимость, описываемая уравнениями (7), согласуется с тем фактом, что значе-ния параметров во входном и выходном сечениях колебательной системы или ее участка могут быть связаны посредством матрицы, называемой матрицей перехода (передаточной матрицей) [3].

Так как уравнения (2) имеют второй порядок относительно функций ( )xη и ( )xα , то для ка-ждой из ступеней волновода-концентратора решения (4) содержат четыре линейно-независимых коэффициента. Остальные коэффициенты будут связаны с ними линейной зависимостью. Если

117

принять в качестве независимых коэффициенты iX , то они будут связаны с коэффициентами iY зависимостью [2]

2 2

1(5) 1(3) 2(6) 2(6) 1(3) 1(5)1(3) 1(3)

2 2

3(7) 2(4) 4(8) 4(8) 2(4) 3(7)2(4) 2(4)

; ;

; .

s s

s s

Y X Y XK G K G

Y X Y XK G K G

⎛ ⎞ ⎛ ⎞ρω ρω= −κ + = κ −⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠⎛ ⎞ ⎛ ⎞ρω ρω

= κ + = κ +⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠

(8)

Кроме того, из условий (5) следуют равенства 2 4X X= − и 2 4Y Y= − , последнее из которых с учетом уравнений (8) может быть представлено в виде

2 2

1 1 2 31 2s s

X XK G K G

⎛ ⎞ ⎛ ⎞ρω ρωκ − = − κ +⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠

.

Таким образом, число независимых коэффициентов может быть сокращено до шести ( 1X , 2X ,

5 8...X X ). Для определения этих коэффициентов необходимо решить систему из шести линейных однородных алгебраических уравнений вида 0AX = , которая имеет нетривиальное решение при условии, что ее определитель обращается в нуль (условие резонанса). При заданной частоте колеба-ний f элементы матрицы A зависят от длин ступеней волновода-концентратора 1L и 2L и усло-вие резонанса принимает вид 1 2det( ( , )) 0A L L = . (9)

Уравнение (9) определяет на плоскости 1 2( , )L L совокупность резонансных кривых, соответ-ствующих различным модам колебаний. Построение резонансных кривых для уравнения (1) производится аналогичным образом и в связи с этим не рассматривается.

Условия резонанса продольных колебаний выводятся на основе известного уравнения Веб-стера [4], используемого при проектировании стержневых концентраторов ультразвука

2(ln ) 0S k′′ ′ ′ξ + ξ + ξ = ,

где ( )xξ – амплитуда продольных смещений; k c= ω – значение волнового числа для продоль-ной моды колебаний.

Условия закрепления концов волновода-концентратора и непрерывности решений имеют для продольных колебаний вид

1(0) 0′ξ = ; 2 2( ) 0L′ξ = ; (1) (2)

2 1 1 1 1(0) ( ) ( ) ( ) ( )L L L L′ξ = ξ ξ Δ + ξ ξ Δ ; (1) (2)2 1 1 1 1(0) ( ) ( ) ( ) ( )L L L L′ ′′ ′ξ = ξ ξ Δ + ξ ξ Δ ;

где (1) ( )xξ и (2) ( )xξ – базисные функции, по которым может быть разложено решение уравне-ния Вебстера для переходного участка волновода-концентратора (1) (2)( ) (0) ( ) (0) ( )x x x′ξ = ξ ξ + ξ ξ .

Аналитические решения уравнения Вебстера для первой и второй ступеней волновода-концентратора имеют вид

1 1 1 1 2 1( ) sin( ) cos( )x Y kx Y kxξ = + ; 2 2 3 2 4 2( ) sin( ) cos( )x Y kx Y kxξ = + .

Из условия закрепления 1(0) 0′ξ = следует равенство 1 0Y = , которое позволяет сократить число независимых коэффициентов до трех и получить систему вида 0BY = , приравнивая опре-делитель которой к нулю, можно получить условия резонанса продольных колебаний.

Описанный выше алгоритм моделирования может быть охарактеризован как смешанный численно-аналитический алгоритм, так как он использует как аналитические решения уравнений колебаний для ступеней волновода-концентратора, имеющих простую геометрическую форму, так и их численное решение для переходного участка, имеющего сложный профиль продольного сечения.

117

принять в качестве независимых коэффициенты iX , то они будут связаны с коэффициентами iY зависимостью [2]

2 2

1(5) 1(3) 2(6) 2(6) 1(3) 1(5)1(3) 1(3)

2 2

3(7) 2(4) 4(8) 4(8) 2(4) 3(7)2(4) 2(4)

; ;

; .

s s

s s

Y X Y XK G K G

Y X Y XK G K G

⎛ ⎞ ⎛ ⎞ρω ρω= −κ + = κ −⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠⎛ ⎞ ⎛ ⎞ρω ρω

= κ + = κ +⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠

(8)

Кроме того, из условий (5) следуют равенства 2 4X X= − и 2 4Y Y= − , последнее из которых с учетом уравнений (8) может быть представлено в виде

2 2

1 1 2 31 2s s

X XK G K G

⎛ ⎞ ⎛ ⎞ρω ρωκ − = − κ +⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟κ κ⎝ ⎠ ⎝ ⎠

.

Таким образом, число независимых коэффициентов может быть сокращено до шести ( 1X , 2X ,

5 8...X X ). Для определения этих коэффициентов необходимо решить систему из шести линейных однородных алгебраических уравнений вида 0AX = , которая имеет нетривиальное решение при условии, что ее определитель обращается в нуль (условие резонанса). При заданной частоте колеба-ний f элементы матрицы A зависят от длин ступеней волновода-концентратора 1L и 2L и усло-вие резонанса принимает вид 1 2det( ( , )) 0A L L = . (9)

Уравнение (9) определяет на плоскости 1 2( , )L L совокупность резонансных кривых, соответ-ствующих различным модам колебаний. Построение резонансных кривых для уравнения (1) производится аналогичным образом и в связи с этим не рассматривается.

Условия резонанса продольных колебаний выводятся на основе известного уравнения Веб-стера [4], используемого при проектировании стержневых концентраторов ультразвука

2(ln ) 0S k′′ ′ ′ξ + ξ + ξ = ,

где ( )xξ – амплитуда продольных смещений; k c= ω – значение волнового числа для продоль-ной моды колебаний.

Условия закрепления концов волновода-концентратора и непрерывности решений имеют для продольных колебаний вид

1(0) 0′ξ = ; 2 2( ) 0L′ξ = ; (1) (2)

2 1 1 1 1(0) ( ) ( ) ( ) ( )L L L L′ξ = ξ ξ Δ + ξ ξ Δ ; (1) (2)2 1 1 1 1(0) ( ) ( ) ( ) ( )L L L L′ ′′ ′ξ = ξ ξ Δ + ξ ξ Δ ;

где (1) ( )xξ и (2) ( )xξ – базисные функции, по которым может быть разложено решение уравне-ния Вебстера для переходного участка волновода-концентратора (1) (2)( ) (0) ( ) (0) ( )x x x′ξ = ξ ξ + ξ ξ .

Аналитические решения уравнения Вебстера для первой и второй ступеней волновода-концентратора имеют вид

1 1 1 1 2 1( ) sin( ) cos( )x Y kx Y kxξ = + ; 2 2 3 2 4 2( ) sin( ) cos( )x Y kx Y kxξ = + .

Из условия закрепления 1(0) 0′ξ = следует равенство 1 0Y = , которое позволяет сократить число независимых коэффициентов до трех и получить систему вида 0BY = , приравнивая опре-делитель которой к нулю, можно получить условия резонанса продольных колебаний.

Описанный выше алгоритм моделирования может быть охарактеризован как смешанный численно-аналитический алгоритм, так как он использует как аналитические решения уравнений колебаний для ступеней волновода-концентратора, имеющих простую геометрическую форму, так и их численное решение для переходного участка, имеющего сложный профиль продольного сечения.

118

Результаты и их обсуждение. Построение резонансных кривых производилось с помощью программы MathCad для следующих значений параметров: модуль упругости материала волно-вода-концентратора 187,3 ГПаE = ; плотность материала волновода-концентратора 37800 кг/мρ = ; коэффициент Пуассона материала волновода-концентратора 0,28ν = ; резонансная частота

25 кГцf = . Результаты расчетов приведены на рис. 2. Утолщенные линии соответствуют резонансным кривым продольных колебаний. Резонансным

кривым изгибных колебаний соответствуют тонкие линии (теория Эйлера–Бернулли) и штрихо-вые линии (теория Тимошенко). Резонансные кривые продольных и изгибных колебаний обо-значены буквами L и F соответственно. Цифры на кривых указывают порядки мод колебаний. Под порядком понимается номер резонансной кривой, которая соответствует данной моде коле-баний. Порядок имеет физический смысл числа узловых точек эпюры распределения амплитуды колебательных смещений по длине волновода-концентратора. Точки пересечения резонансных кривых продольных и изгибных колебаний (резонансные точки) соответствуют значениям

1 2( ; )L L , обеспечивающим совместный резонанс этих колебаний. Для резонансной кривой, соот-ветствующей заданному порядку ln продольной моды колебаний, существует множество пере-секающих ее резонансных кривых изгибных колебаний, максимальный порядок которых обо-значим через maxfn . При использовании теории Эйлера–Бернулли для 1ln = max 11fn = , а для

2ln = max 23fn = . Резонансные точки, соответствующие максимальной длине волновода-кон- центратора, имеют в этом случае координаты (0,0805 м; 0,0347 м) и (0,0779 м; 0,1347 м) и обо-значены маркерами в виде круга. При использовании теории Тимошенко для 1ln = max 11fn = , а резонансная точка, соответствующая максимальной длине волновода-концентратора, имеет координаты (0,0895 м; 0,0209 м) и обозначена маркером в виде ромба.

Корректность приведенных данных подтверждается результатами конечно-элементного мо-делирования с помощью программы ANSYS, которая хорошо зарекомендовала себя при иссле-довании колебаний ультразвуковых волноводных систем [5] (табл. 2).

Резонансные частоты определялись путем модального анализа для волноводов-концентра- торов с геометрическими параметрами, полученными на основе описанной выше модели. Моде-лирование выполнялось с использованием десятиузловых тетраэдрических конечных элементов типа SOLID 92. При расчете собственной частоты продольных колебаний рассматривалась твердо-тельная модель в виде четверти волновода-концентратора с наложением симметричных гранич-ных условий на плоскости разреза. При модальном анализе изгибных колебаний рассматривалась половина волновода-концентратора с наложением симметричных граничных условий на плоскость разреза и ограничением смещений входного поперечного сечения по всем степеням свободы.

Рис. 2. Резонансные кривые продольных и изгибных колебаний волновода-концентратора

118

Результаты и их обсуждение. Построение резонансных кривых производилось с помощью программы MathCad для следующих значений параметров: модуль упругости материала волно-вода-концентратора 187,3 ГПаE = ; плотность материала волновода-концентратора 37800 кг/мρ = ; коэффициент Пуассона материала волновода-концентратора 0,28ν = ; резонансная частота

25 кГцf = . Результаты расчетов приведены на рис. 2. Утолщенные линии соответствуют резонансным кривым продольных колебаний. Резонансным

кривым изгибных колебаний соответствуют тонкие линии (теория Эйлера–Бернулли) и штрихо-вые линии (теория Тимошенко). Резонансные кривые продольных и изгибных колебаний обо-значены буквами L и F соответственно. Цифры на кривых указывают порядки мод колебаний. Под порядком понимается номер резонансной кривой, которая соответствует данной моде коле-баний. Порядок имеет физический смысл числа узловых точек эпюры распределения амплитуды колебательных смещений по длине волновода-концентратора. Точки пересечения резонансных кривых продольных и изгибных колебаний (резонансные точки) соответствуют значениям

1 2( ; )L L , обеспечивающим совместный резонанс этих колебаний. Для резонансной кривой, соот-ветствующей заданному порядку ln продольной моды колебаний, существует множество пере-секающих ее резонансных кривых изгибных колебаний, максимальный порядок которых обо-значим через maxfn . При использовании теории Эйлера–Бернулли для 1ln = max 11fn = , а для

2ln = max 23fn = . Резонансные точки, соответствующие максимальной длине волновода-кон- центратора, имеют в этом случае координаты (0,0805 м; 0,0347 м) и (0,0779 м; 0,1347 м) и обо-значены маркерами в виде круга. При использовании теории Тимошенко для 1ln = max 11fn = , а резонансная точка, соответствующая максимальной длине волновода-концентратора, имеет координаты (0,0895 м; 0,0209 м) и обозначена маркером в виде ромба.

Корректность приведенных данных подтверждается результатами конечно-элементного мо-делирования с помощью программы ANSYS, которая хорошо зарекомендовала себя при иссле-довании колебаний ультразвуковых волноводных систем [5] (табл. 2).

Резонансные частоты определялись путем модального анализа для волноводов-концентра- торов с геометрическими параметрами, полученными на основе описанной выше модели. Моде-лирование выполнялось с использованием десятиузловых тетраэдрических конечных элементов типа SOLID 92. При расчете собственной частоты продольных колебаний рассматривалась твердо-тельная модель в виде четверти волновода-концентратора с наложением симметричных гранич-ных условий на плоскости разреза. При модальном анализе изгибных колебаний рассматривалась половина волновода-концентратора с наложением симметричных граничных условий на плоскость разреза и ограничением смещений входного поперечного сечения по всем степеням свободы.

Рис. 2. Резонансные кривые продольных и изгибных колебаний волновода-концентратора

119

Т а б л и ц а 2. Результаты моделирования с помощью программы ANSYS

Параметры волновода-концентратора Теория Эйлера–Бернулли Теория Тимошенко

1L , м 0,0805 0,0779 0,0895

2L , м 0,0347 0,1347 0,0209

lf , Гц 25025 (0,1 %) 25005 (0,02 %) 25003 (0,01 %)

tf , Гц 21858 (12,6 %) 23584 (5,7 %) 25042 (0,17 %)

Через lf обозначена частота продольных колебаний, через tf – частота изгибных колебаний.

В скобках указано относительное отклонение расчетных резонансных частот от заданной часто-ты 25 кГцf = . Как следует из приведенных данных, относительное отклонение при использова-нии теории Тимошенко представляет собой пренебрежимо малую величину (0,17 %), в то время как при использовании теории Эйлера–Бернулли отклонение достигает 12,6 %. Существенная погрешность, возникающая при использовании теории Эйлера–Бернулли, может быть объяснена тем, что данная теория дает хорошие результаты лишь для стержней с большой гибкостью L S J [2], в то время как переходный участок волновода-концентратора имеет малую гибкость.

Заключение. Таким образом, на основе применения теорий Эйлера–Бернулли и Тимошенко, а также уравнения Вебстера разработана инженерная методика проектирования двухступенча-тых волноводов-концентраторов для ультразвукового тромболизиса, позволяющая определять значения геометрических параметров волновода-концентратора, обеспечивающие совместный резонанс продольных и изгибных колебаний для заданной частоты возбуждения. Корректность предложенной методики проектирования подтверждена результатами конечно-элементного мо-делирования, которые позволяют рекомендовать использование теории Тимошенко как дающей более точные результаты по сравнению с теорией Эйлера–Бернулли.


1. Евразийский патент EA 005704 B1, МПК A61B 17/22, 17/32, C25F 3/16. Волновод для внутрисосудистой тром-боэктомии тромбов и тромбоэмболов и способ его изготовления / В. Т. Минченя и др. № 200300259; заявл. 11.02.2003; опубл. 28.04.2005; приоритет 24.01.2003 BY 20030052.

2. H a n S. M., B e n a r o y a H., W e i T. // J. of Sound and Vibration. 1999. Vol. 225. P. 935–988. 3. К в а ш н и н С. Е. Ультразвуковые электроакустические преобразователи и волноводы-инструменты для ме-

дицины. М., 1995. – 43 с. 4. W e b s t e r A. G. // Proc. of the National Academy of Sciences of the USA. 1919. Vol. 5. P. 275–282. 5. G a v i n G. P. et al. // International J. of Mechanical Sciences. 2007. Vol. 49. P. 298–305.

MINCHENYA V. T., STEPANENKO D. A.

[email protected]; [email protected]

INVESTIGATION OF LINEAR VIBRATIONS OF A TWO-STEP WAVEGUIDE FOR ULTRASONIC THROMBOLYSIS

Summary

The article presents the mathematical model allowing the investigation of linear longitudinal and flexural vibrations of stepped flexible waveguides for ultrasonic thrombolysis. Resonant curves of longitudinal and flexural vibrations of a two-step waveguide are traced for the given vibration frequency. Step lengths values providing the simultaneous resonance of longitudinal and flexural vibrations for the given frequency are determined. The validity of the proposed model is proved by the results of the finite elements modeling using the ANSYS software.

119

Т а б л и ц а 2. Результаты моделирования с помощью программы ANSYS

Параметры волновода-концентратора Теория Эйлера–Бернулли Теория Тимошенко

1L , м 0,0805 0,0779 0,0895

2L , м 0,0347 0,1347 0,0209

lf , Гц 25025 (0,1 %) 25005 (0,02 %) 25003 (0,01 %)

tf , Гц 21858 (12,6 %) 23584 (5,7 %) 25042 (0,17 %)

Через lf обозначена частота продольных колебаний, через tf – частота изгибных колебаний.

В скобках указано относительное отклонение расчетных резонансных частот от заданной часто-ты 25 кГцf = . Как следует из приведенных данных, относительное отклонение при использова-нии теории Тимошенко представляет собой пренебрежимо малую величину (0,17 %), в то время как при использовании теории Эйлера–Бернулли отклонение достигает 12,6 %. Существенная погрешность, возникающая при использовании теории Эйлера–Бернулли, может быть объяснена тем, что данная теория дает хорошие результаты лишь для стержней с большой гибкостью L S J [2], в то время как переходный участок волновода-концентратора имеет малую гибкость.

Заключение. Таким образом, на основе применения теорий Эйлера–Бернулли и Тимошенко, а также уравнения Вебстера разработана инженерная методика проектирования двухступенча-тых волноводов-концентраторов для ультразвукового тромболизиса, позволяющая определять значения геометрических параметров волновода-концентратора, обеспечивающие совместный резонанс продольных и изгибных колебаний для заданной частоты возбуждения. Корректность предложенной методики проектирования подтверждена результатами конечно-элементного мо-делирования, которые позволяют рекомендовать использование теории Тимошенко как дающей более точные результаты по сравнению с теорией Эйлера–Бернулли.


1. Евразийский патент EA 005704 B1, МПК A61B 17/22, 17/32, C25F 3/16. Волновод для внутрисосудистой тром-боэктомии тромбов и тромбоэмболов и способ его изготовления / В. Т. Минченя и др. № 200300259; заявл. 11.02.2003; опубл. 28.04.2005; приоритет 24.01.2003 BY 20030052.

2. H a n S. M., B e n a r o y a H., W e i T. // J. of Sound and Vibration. 1999. Vol. 225. P. 935–988. 3. К в а ш н и н С. Е. Ультразвуковые электроакустические преобразователи и волноводы-инструменты для ме-

дицины. М., 1995. – 43 с. 4. W e b s t e r A. G. // Proc. of the National Academy of Sciences of the USA. 1919. Vol. 5. P. 275–282. 5. G a v i n G. P. et al. // International J. of Mechanical Sciences. 2007. Vol. 49. P. 298–305.

MINCHENYA V. T., STEPANENKO D. A.

[email protected]; [email protected]

INVESTIGATION OF LINEAR VIBRATIONS OF A TWO-STEP WAVEGUIDE FOR ULTRASONIC THROMBOLYSIS

Summary

The article presents the mathematical model allowing the investigation of linear longitudinal and flexural vibrations of stepped flexible waveguides for ultrasonic thrombolysis. Resonant curves of longitudinal and flexural vibrations of a two-step waveguide are traced for the given vibration frequency. Step lengths values providing the simultaneous resonance of longitudinal and flexural vibrations for the given frequency are determined. The validity of the proposed model is proved by the results of the finite elements modeling using the ANSYS software.

120




УДК 636.4.082.22:636.082.31

Академик И. П. ШЕЙКО, Д. Н. ХОДОСОВСКИЙ

ОЦЕНКА ХРЯКОВ-ПРОИЗВОДИТЕЛЕЙ ПО КАЧЕСТВУ ПОТОМСТВА НА ПРОМЫШЛЕННЫХ СВИНОКОМПЛЕКСАХ

НПЦ НАН Беларуси по животноводству, Жодино Поступило 06.04.2009

Введение. С целью повышения мясности свинины на комплексы Беларуси завозятся хрячки, а также спермопродукция из ряда государств ЕС и Канады. Это позволяет обогащать генофонд отечественного свиноводства, но в ветеринарно-санитарном отношении возникают дополни-тельные сложности. В племенных свидетельствах на импортный скот указываются данные пле-менных достоинств животных, которые определяли в условиях Западной Европы в небольших, по белорусским масштабам, свиноводческих предприятиях [1]. Известно, что паратипические условия (особенности кормления, содержания, ветеринарно-санитарное благополучие) являются важнейшим фактором, способным внести коренные изменения в племенную оценку животного [2–4]. Нередко при ухудшении условий содержания лучшие по экстерьеру, продуктивности и племенной ценности особи оказываются хуже, чем животные средней и нижесредней продук-тивности. А ведь условия на отечественных комплексах значительно жестче, чем на небольших зарубежных фермах, где выращивали ремонтных хрячков. Поэтому использование высококлас- сных хряков, оцененных в условиях ферм, часто не дает соответствующей прибавки продуктив-ности в условиях промышленных комплексов. С увеличением сроков эксплуатации помещений и селекцией свиней на мясность заболеваемость поголовья все больше выходит из-под контроля [5].

Сейчас в отечественном свиноводстве известен и широко применяется способ оценки хряков-производителей по качеству потомства в условиях контрольно-испытательных станций по свино-водству (КИСС) [6–8]. Суть этой оценки в том, что отбирается 16 поросят, полученных от каж-дого проверяемого хряка (от четырех свиноматок – по два боровка и по две свинки). Затем на КИСС их откармливают и учитывают зоотехнические показатели (среднесуточный прирост жи-вой массы, оплата корма приростом, возраст достижения живой массы 100 кг, мясные качества). Однако при транспортировке животных с разных хозяйств в одно место (КИСС) происходит взаимное перезаражение особей (в каждом хозяйстве свой микробный фон), что способствует высокой заболеваемости и выбраковке животных. Из-за этого значительное количество живот-ных не получают требуемой зоотехнической оценки.

Все более проблемным в современном промышленном свиноводстве, по сравнению с откор-мом, является ранний период развития (подсосный период, доращивание). Однако при традици-онной системе оценки хряков-производителей именно он и выпадает из учета. Для зоотехниче-ской службы хозяйства наиболее желательна информация о племенной ценности производителя применительно к своим условиям, а не к условиям свинарников КИСС. В настоящее время мощ-ность единственной КИСС не обеспечивает потребности хозяйств даже на 50 %. Из-за этого хо-зяйства несут неоправданные потери, используя непроверенных производителей, поэтому требуется как можно быстрее разработать способ достоверной сравнительной оценки хряков-производи- телей по жизнеспособности и продуктивности потомства в условиях промышленного свинокомп- лекса.

Объект и методы исследований. Оценку проводили в ОАО «Совхоз-комбинат «Сож» Гомель-ского р-на Гомельской обл. на свинокомплексе мощностью 108 тыс. голов годового откорма. На

120




УДК 636.4.082.22:636.082.31

Академик И. П. ШЕЙКО, Д. Н. ХОДОСОВСКИЙ

ОЦЕНКА ХРЯКОВ-ПРОИЗВОДИТЕЛЕЙ ПО КАЧЕСТВУ ПОТОМСТВА НА ПРОМЫШЛЕННЫХ СВИНОКОМПЛЕКСАХ

НПЦ НАН Беларуси по животноводству, Жодино Поступило 06.04.2009

Введение. С целью повышения мясности свинины на комплексы Беларуси завозятся хрячки, а также спермопродукция из ряда государств ЕС и Канады. Это позволяет обогащать генофонд отечественного свиноводства, но в ветеринарно-санитарном отношении возникают дополни-тельные сложности. В племенных свидетельствах на импортный скот указываются данные пле-менных достоинств животных, которые определяли в условиях Западной Европы в небольших, по белорусским масштабам, свиноводческих предприятиях [1]. Известно, что паратипические условия (особенности кормления, содержания, ветеринарно-санитарное благополучие) являются важнейшим фактором, способным внести коренные изменения в племенную оценку животного [2–4]. Нередко при ухудшении условий содержания лучшие по экстерьеру, продуктивности и племенной ценности особи оказываются хуже, чем животные средней и нижесредней продук-тивности. А ведь условия на отечественных комплексах значительно жестче, чем на небольших зарубежных фермах, где выращивали ремонтных хрячков. Поэтому использование высококлас- сных хряков, оцененных в условиях ферм, часто не дает соответствующей прибавки продуктив-ности в условиях промышленных комплексов. С увеличением сроков эксплуатации помещений и селекцией свиней на мясность заболеваемость поголовья все больше выходит из-под контроля [5].

Сейчас в отечественном свиноводстве известен и широко применяется способ оценки хряков-производителей по качеству потомства в условиях контрольно-испытательных станций по свино-водству (КИСС) [6–8]. Суть этой оценки в том, что отбирается 16 поросят, полученных от каж-дого проверяемого хряка (от четырех свиноматок – по два боровка и по две свинки). Затем на КИСС их откармливают и учитывают зоотехнические показатели (среднесуточный прирост жи-вой массы, оплата корма приростом, возраст достижения живой массы 100 кг, мясные качества). Однако при транспортировке животных с разных хозяйств в одно место (КИСС) происходит взаимное перезаражение особей (в каждом хозяйстве свой микробный фон), что способствует высокой заболеваемости и выбраковке животных. Из-за этого значительное количество живот-ных не получают требуемой зоотехнической оценки.

Все более проблемным в современном промышленном свиноводстве, по сравнению с откор-мом, является ранний период развития (подсосный период, доращивание). Однако при традици-онной системе оценки хряков-производителей именно он и выпадает из учета. Для зоотехниче-ской службы хозяйства наиболее желательна информация о племенной ценности производителя применительно к своим условиям, а не к условиям свинарников КИСС. В настоящее время мощ-ность единственной КИСС не обеспечивает потребности хозяйств даже на 50 %. Из-за этого хо-зяйства несут неоправданные потери, используя непроверенных производителей, поэтому требуется как можно быстрее разработать способ достоверной сравнительной оценки хряков-производи- телей по жизнеспособности и продуктивности потомства в условиях промышленного свинокомп- лекса.

Объект и методы исследований. Оценку проводили в ОАО «Совхоз-комбинат «Сож» Гомель-ского р-на Гомельской обл. на свинокомплексе мощностью 108 тыс. голов годового откорма. На

121

завершающей стадии гибридизации маток сочетаний крупная белая × ландрас и крупная белая × белорусская мясная покрывали завезенными на свинокомплекс и прошедшими адаптационный период хряками 990 синтетической линии (№ 11151 и 11146), белорусской мясной породы (№ 3495), ландрасом польской (№ 40, 37, 78) и немецкой (№ 11262, 11263, 11266) селекции, а также гибридным хряком 990 линии × пьетрен (№ 11145).

Осеменение маток проводилось в трех технологических группах, сформированных одна за другой. Свиноматки подбирались с учетом породности, возраста и прошлой продуктивности с таким расчетом, чтобы не допустить инбридинга, и одновременно каждый хряк был проверен на маточном поголовье одинакового качества. С целью получения достоверной оценки племен-ных качеств хряков спермой каждого проверяемого хряка-производителя покрывали не менее 10 основных свиноматок. После покрытия матки поступали в технологический цикл комплекса. За ними, а затем и за их потомством велся мониторинг продуктивности и сохранности. Оконча-тельная оценка хряков-производителей проводилась при достижении их потомством реализа- ционной массы (перед отправкой на мясокомбинат).

Во время опыта велся учет воспроизводительных качеств хряков, количество и качество по-лученного от них потомства, по выходу «деловых» поросят на один опорос определяли ранг про-изводителя по воспроизводительным качествам. По средней массе гнезда при отъеме устанавли-вали ранг хряка по продуктивности потомства в подсосный период. По средней живой массе гнезда при передаче на откорм определяли ранг хряка по жизнеспособности потомства. Оконча-тельный ранг производителя рассчитывали по количеству свинины в живой массе в расчете на опорос. Хряк с наивысшей продуктивностью потомства получил первый ранг, а наименьшей – последний. Производители с высокой ранговой оценкой переводились в основное стадо, а низ-кой – выбраковывались.

Результаты и их обсуждение. Проведенными исследованиями установлено, что оплодотво-ряемость маток в целом была высокой и колебалась от 81,8 до 100 % (табл. 1). По породам про-цент оплодотворяемости различался очень незначительно. Самым высоким он был у хряков по-роды польский ландрас – 92,8 %, а самым низким – 88,1 % у животных породы ландрас немецкой селекции. Разница составила 4,7 %. Внутри породные различия между проверяемыми хряками оказались гораздо более значительными. По породе польский ландрас они составили 13,3 %, по немецкому ландрасу – 9,9 %, по гибридным хрякам 990 специализированной мясной линии – 13,3 %.

Т а б л и ц а 1. Воспроизводительные качества проверяемых хряков-производителей

Инд. номер Порода Покрыто свиноматок,

гол. Всего

опоросов %

оплодотворяемости Получено опоросов

без патологий

40 Польский ландрас 10 10 100,0 9 37 Польский ландрас 12 11 91,7 11 78 Польский ландрас 15 13 86,7 12 3495 Белорусская мясная 10 9 90,0 9 11151 990 линия 10 10 100, 10 11146 990 линия 15 13 86,7 13 11145 990 линия × пьетрен 10 9 90,0 7 11262 Немецкий ландрас 11 9 81,8 9 11263 Немецкий ландрас 12 11 91,7 10 11266 Немецкий ландрас 11 10 90,9 10

Продуктивность потомства проверяемых хряков-производителей за подсосный период пред-

ставлена в табл. 2. Сохранность поросят-сосунов ниже технологического норматива [9] была только у двух хряков породы немецкий ландрас № 11262 и 11266 и составила 89,7 и 84,9 % соот-ветственно. Хряк породы немецкий ландрас № 11266 имел самые низкие показатели по выходу поросят на опорос и средней массе поросенка при отъеме, что привело к его отставанию от хряка № 11263 по средней массе гнезда при отъеме на 10,4 кг (16,7 %). Низкий показатель выхода по-росят в расчете на опорос не позволил потомству, полученному от хряков породы немецкий ландрас, подняться выше 5 ранга по продуктивности потомства в подсосный период. Хотя средняя

121

завершающей стадии гибридизации маток сочетаний крупная белая × ландрас и крупная белая × белорусская мясная покрывали завезенными на свинокомплекс и прошедшими адаптационный период хряками 990 синтетической линии (№ 11151 и 11146), белорусской мясной породы (№ 3495), ландрасом польской (№ 40, 37, 78) и немецкой (№ 11262, 11263, 11266) селекции, а также гибридным хряком 990 линии × пьетрен (№ 11145).

Осеменение маток проводилось в трех технологических группах, сформированных одна за другой. Свиноматки подбирались с учетом породности, возраста и прошлой продуктивности с таким расчетом, чтобы не допустить инбридинга, и одновременно каждый хряк был проверен на маточном поголовье одинакового качества. С целью получения достоверной оценки племен-ных качеств хряков спермой каждого проверяемого хряка-производителя покрывали не менее 10 основных свиноматок. После покрытия матки поступали в технологический цикл комплекса. За ними, а затем и за их потомством велся мониторинг продуктивности и сохранности. Оконча-тельная оценка хряков-производителей проводилась при достижении их потомством реализа- ционной массы (перед отправкой на мясокомбинат).

Во время опыта велся учет воспроизводительных качеств хряков, количество и качество по-лученного от них потомства, по выходу «деловых» поросят на один опорос определяли ранг про-изводителя по воспроизводительным качествам. По средней массе гнезда при отъеме устанавли-вали ранг хряка по продуктивности потомства в подсосный период. По средней живой массе гнезда при передаче на откорм определяли ранг хряка по жизнеспособности потомства. Оконча-тельный ранг производителя рассчитывали по количеству свинины в живой массе в расчете на опорос. Хряк с наивысшей продуктивностью потомства получил первый ранг, а наименьшей – последний. Производители с высокой ранговой оценкой переводились в основное стадо, а низ-кой – выбраковывались.

Результаты и их обсуждение. Проведенными исследованиями установлено, что оплодотво-ряемость маток в целом была высокой и колебалась от 81,8 до 100 % (табл. 1). По породам про-цент оплодотворяемости различался очень незначительно. Самым высоким он был у хряков по-роды польский ландрас – 92,8 %, а самым низким – 88,1 % у животных породы ландрас немецкой селекции. Разница составила 4,7 %. Внутри породные различия между проверяемыми хряками оказались гораздо более значительными. По породе польский ландрас они составили 13,3 %, по немецкому ландрасу – 9,9 %, по гибридным хрякам 990 специализированной мясной линии – 13,3 %.

Т а б л и ц а 1. Воспроизводительные качества проверяемых хряков-производителей

Инд. номер Порода Покрыто свиноматок,

гол. Всего

опоросов %

оплодотворяемости Получено опоросов

без патологий

40 Польский ландрас 10 10 100,0 9 37 Польский ландрас 12 11 91,7 11 78 Польский ландрас 15 13 86,7 12 3495 Белорусская мясная 10 9 90,0 9 11151 990 линия 10 10 100, 10 11146 990 линия 15 13 86,7 13 11145 990 линия × пьетрен 10 9 90,0 7 11262 Немецкий ландрас 11 9 81,8 9 11263 Немецкий ландрас 12 11 91,7 10 11266 Немецкий ландрас 11 10 90,9 10

Продуктивность потомства проверяемых хряков-производителей за подсосный период пред-

ставлена в табл. 2. Сохранность поросят-сосунов ниже технологического норматива [9] была только у двух хряков породы немецкий ландрас № 11262 и 11266 и составила 89,7 и 84,9 % соот-ветственно. Хряк породы немецкий ландрас № 11266 имел самые низкие показатели по выходу поросят на опорос и средней массе поросенка при отъеме, что привело к его отставанию от хряка № 11263 по средней массе гнезда при отъеме на 10,4 кг (16,7 %). Низкий показатель выхода по-росят в расчете на опорос не позволил потомству, полученному от хряков породы немецкий ландрас, подняться выше 5 ранга по продуктивности потомства в подсосный период. Хотя средняя

122

живая масса поросенка при отъеме у хряков № 11262 и 11263 была самой высокой – 8,7 и 8,6 кг соответственно. Потомство хряков породы ландрас польской селекции за счет высокого выхода поросят на опорос и средней живой массы поросенка при отъеме были на первых трех местах.

Т а б л и ц а 2. Продуктивность потомства проверяемых хряков-производителей за подсосный период

Инд. номер

Всего отнято поросят, гол.

Падеж, гол.

Сохранность, %

Выход поросят в расчете на опорос

Средняя масса гнезда при отъеме, кг

Ранг хряка по продуктивности потомства

в подсосный период

40 84 4 95,5 9,3 ± 0,08 79,3 ± 3,3 2 37 103 9 92,0 9,4 ± 0,10 79,6 ± 2,4 1 78 112 9 92,6 9,3 ± 0,08 77,5 ± 2,9 3

3495 88 6 93,6 9,8 ± 0,13 77,2 ± 3,9 4 11151 98 7 95,1 9,8 ± 0,09 75 5± 3,0 6 11146 120 13 90,2 9,2 ± 0,10 73,8 ± 2,5 7 11145 66 5 93,0 9,4 ± 0,07 73,6 ± 3,6 8 11262 79 9 89,7 8,8 ± 0,10 76,3 ± 4,2 5 11263 84 5 94,4 8,4 ± 0,12 72,8 ± 3,0 9 11266 79 14 84,9 7,9 ± 0,11 62,4 ± 2,2 10

За период доращивания и откорма ранг хряков изменялся из-за различной сохранности мо-

лодняка и величины среднесуточных приростов (табл. 3). Адаптационные способности потомства, полученного от производителя № 11263 породы немецкий ландрас, позволили ему получить второй ранг, хотя после подсосного периода он был на девятой позиции. Сохранность молодняка от начала доращивания до сдачи на мясо у него составила 92,5 %. Самой низкой она была у по-следнего по рангу хряка № 11266 и составила 58,1 %. Самый высокий показатель по массе гнез-да при реализации на мясо имел хряк № 40 породы ландрас польской селекции (901 кг), что на 19,8 % больше, чем средняя по выборке.

Т а б л и ц а 3. Продуктивность потомства проверяемых хряков-производителей за весь производственный цикл

Снято с откорма Инд. номер

Передано на откорм, гол. всего, гол. в расчете на опорос

Масса гнезда при передаче на откорм, кг

Масса гнезда при реализации, кг

Ранг хряка

40 71 71 7,9 ± 0,15 302 ± 5,4 901 ± 54,9 1 37 81 79 7,2 ± 0,17 264 ± 9,9 813 ± 32,4 3 78 85 83 6,9 ± 0,15 266 ± 8,9 795 ± 25,5 4

3495 65 62 6,9 ± 0,14 260 ± 9,6 772 ± 27,8 5 11151 68 64 6,4 ± 0,18 237 ± 10,8 737 ± 34,4 7 11146 82 80 6,2 ± 0,19 248 ± 15,2 706 ± 49,3 8 11145 48 45 6,4 ± 0,23 243 ± 10,2 702 ± 34,5 9 11262 62 60 6,7 ± 0,14 265 ± 11,7 764 ± 29,9 6 11263 75 74 7,4 ± 0,18 301 ± 8,6 833 ± 38,1 2 11266 47 43 4,3 ± 0,36 184 ± 26,3 498 ± 75,2 10

Заключение. Хряки породы ландрас немецкой селекции имели очень существенные внутри-

породные различия, поэтому их оценка по продуктивным качествам потомства позволила вы-явить низкопродуктивного производителя и прекратить его использование. Хряки 990 синтети-ческой линии (№ 11151 и 11146) и гибридный хряк 990 линия × пьетрен (№ 11145) имели сред-нюю массу гнезда при реализации на 2,1–6,7 % ниже, чем в среднем по всем производителям. Это свидетельствует о возможном снижении продуктивности потомства при использовании супер-мясных хряков в условиях промышленного производства свинины. Корреляция средней массы гнезда при передаче на откорм с массой гнезда при реализации в нашем опыте составила 0,96, что дает основание к сокращению сроков оценки хряков периодом доращивания.

122

живая масса поросенка при отъеме у хряков № 11262 и 11263 была самой высокой – 8,7 и 8,6 кг соответственно. Потомство хряков породы ландрас польской селекции за счет высокого выхода поросят на опорос и средней живой массы поросенка при отъеме были на первых трех местах.

Т а б л и ц а 2. Продуктивность потомства проверяемых хряков-производителей за подсосный период

Инд. номер

Всего отнято поросят, гол.

Падеж, гол.

Сохранность, %

Выход поросят в расчете на опорос

Средняя масса гнезда при отъеме, кг

Ранг хряка по продуктивности потомства

в подсосный период

40 84 4 95,5 9,3 ± 0,08 79,3 ± 3,3 2 37 103 9 92,0 9,4 ± 0,10 79,6 ± 2,4 1 78 112 9 92,6 9,3 ± 0,08 77,5 ± 2,9 3

3495 88 6 93,6 9,8 ± 0,13 77,2 ± 3,9 4 11151 98 7 95,1 9,8 ± 0,09 75 5± 3,0 6 11146 120 13 90,2 9,2 ± 0,10 73,8 ± 2,5 7 11145 66 5 93,0 9,4 ± 0,07 73,6 ± 3,6 8 11262 79 9 89,7 8,8 ± 0,10 76,3 ± 4,2 5 11263 84 5 94,4 8,4 ± 0,12 72,8 ± 3,0 9 11266 79 14 84,9 7,9 ± 0,11 62,4 ± 2,2 10

За период доращивания и откорма ранг хряков изменялся из-за различной сохранности мо-

лодняка и величины среднесуточных приростов (табл. 3). Адаптационные способности потомства, полученного от производителя № 11263 породы немецкий ландрас, позволили ему получить второй ранг, хотя после подсосного периода он был на девятой позиции. Сохранность молодняка от начала доращивания до сдачи на мясо у него составила 92,5 %. Самой низкой она была у по-следнего по рангу хряка № 11266 и составила 58,1 %. Самый высокий показатель по массе гнез-да при реализации на мясо имел хряк № 40 породы ландрас польской селекции (901 кг), что на 19,8 % больше, чем средняя по выборке.

Т а б л и ц а 3. Продуктивность потомства проверяемых хряков-производителей за весь производственный цикл

Снято с откорма Инд. номер

Передано на откорм, гол. всего, гол. в расчете на опорос

Масса гнезда при передаче на откорм, кг

Масса гнезда при реализации, кг

Ранг хряка

40 71 71 7,9 ± 0,15 302 ± 5,4 901 ± 54,9 1 37 81 79 7,2 ± 0,17 264 ± 9,9 813 ± 32,4 3 78 85 83 6,9 ± 0,15 266 ± 8,9 795 ± 25,5 4

3495 65 62 6,9 ± 0,14 260 ± 9,6 772 ± 27,8 5 11151 68 64 6,4 ± 0,18 237 ± 10,8 737 ± 34,4 7 11146 82 80 6,2 ± 0,19 248 ± 15,2 706 ± 49,3 8 11145 48 45 6,4 ± 0,23 243 ± 10,2 702 ± 34,5 9 11262 62 60 6,7 ± 0,14 265 ± 11,7 764 ± 29,9 6 11263 75 74 7,4 ± 0,18 301 ± 8,6 833 ± 38,1 2 11266 47 43 4,3 ± 0,36 184 ± 26,3 498 ± 75,2 10

Заключение. Хряки породы ландрас немецкой селекции имели очень существенные внутри-

породные различия, поэтому их оценка по продуктивным качествам потомства позволила вы-явить низкопродуктивного производителя и прекратить его использование. Хряки 990 синтети-ческой линии (№ 11151 и 11146) и гибридный хряк 990 линия × пьетрен (№ 11145) имели сред-нюю массу гнезда при реализации на 2,1–6,7 % ниже, чем в среднем по всем производителям. Это свидетельствует о возможном снижении продуктивности потомства при использовании супер-мясных хряков в условиях промышленного производства свинины. Корреляция средней массы гнезда при передаче на откорм с массой гнезда при реализации в нашем опыте составила 0,96, что дает основание к сокращению сроков оценки хряков периодом доращивания.

123


1. Д о н а л д с о н Дж. С., Ш к а т о в М. А. Свиноводство Канады // Зоотехния. 2005. № 10. С. 31–32. 2. Ш е й к о И. П., Х о ч е н к о в А. А., Х о д о с о в с к и й Д. Н., Ш е й к о Р. И. Улучшение откормочных

и мясных качеств свиней в условиях промышленной технологии // Свиноводство. 2006. № 2. С. 12–14. 3. А н д р ю щ е н к о А. М. Опыт ОАО «Омский бекон» в освоении системы гибридизации компании «Pic» //

Свиноферма. 2006. № 10. С. 11–15. 4. Ж у ч а е в К. В. Формирование адаптивных качеств и продуктивности свиней в процессе микроэволюции:

Автореф. дисс. … д-ра биол. наук. М., 2005. – 41 с. 5. П а н и н И. Кукуруза. Новый взгляд. Что важнее: цена или целесообразность? // Кормление сельскохозяйст-

венных животных и кормопроизводство. 2006. № 11. С. 36–38. 6. Методические указания по оценке хряков и маток по мясным и откормочным качествам. М., 1976. – 8 с. 7. Инструкция по искусственному осеменению свиней. Минск, 1998. – 38 с. 8. Племенное дело в свиноводстве / В. Г. Козловский и др. М., 1982. – 272 с. 9. Республиканские нормы технологического проектирования новых, реконструкции и технического перевоору-

жения животноводческих объектов: РНТП-1-2004 / Н. А. Попков и др. Минск, 2004. – 92 с.

SHEIKO I. P., KHODOSOVSKY D. N.

[email protected]

ESTIMATION OF BOARS IN VIABILITY AND PRODUCTIVE TRAITS OF THE DERIVED POSTERITY AT INDUSTRIAL PIG COMPLEXES

Summary

An estimation of productivity and viability of meat breed and synthetic lines boars’ posterity was carried out in the condi-tions of a large pig breeding complex. It was determined that the posterity of boar No. 40 of the Landrace breed of the Polish selection had the best characteristics. The average litter weight before slaughtering was 901 kg that was by 19.8 % higher than that of the posterity of all the checked boars. Boars of 990 synthetic line and hybrid boar 990 line × Pietren had the average litter weight by 2.1–6.7 % lower than that, on the average, for all boars.

123


1. Д о н а л д с о н Дж. С., Ш к а т о в М. А. Свиноводство Канады // Зоотехния. 2005. № 10. С. 31–32. 2. Ш е й к о И. П., Х о ч е н к о в А. А., Х о д о с о в с к и й Д. Н., Ш е й к о Р. И. Улучшение откормочных

и мясных качеств свиней в условиях промышленной технологии // Свиноводство. 2006. № 2. С. 12–14. 3. А н д р ю щ е н к о А. М. Опыт ОАО «Омский бекон» в освоении системы гибридизации компании «Pic» //

Свиноферма. 2006. № 10. С. 11–15. 4. Ж у ч а е в К. В. Формирование адаптивных качеств и продуктивности свиней в процессе микроэволюции:

Автореф. дисс. … д-ра биол. наук. М., 2005. – 41 с. 5. П а н и н И. Кукуруза. Новый взгляд. Что важнее: цена или целесообразность? // Кормление сельскохозяйст-

венных животных и кормопроизводство. 2006. № 11. С. 36–38. 6. Методические указания по оценке хряков и маток по мясным и откормочным качествам. М., 1976. – 8 с. 7. Инструкция по искусственному осеменению свиней. Минск, 1998. – 38 с. 8. Племенное дело в свиноводстве / В. Г. Козловский и др. М., 1982. – 272 с. 9. Республиканские нормы технологического проектирования новых, реконструкции и технического перевоору-

жения животноводческих объектов: РНТП-1-2004 / Н. А. Попков и др. Минск, 2004. – 92 с.

SHEIKO I. P., KHODOSOVSKY D. N.

[email protected]

ESTIMATION OF BOARS IN VIABILITY AND PRODUCTIVE TRAITS OF THE DERIVED POSTERITY AT INDUSTRIAL PIG COMPLEXES

Summary

An estimation of productivity and viability of meat breed and synthetic lines boars’ posterity was carried out in the condi-tions of a large pig breeding complex. It was determined that the posterity of boar No. 40 of the Landrace breed of the Polish selection had the best characteristics. The average litter weight before slaughtering was 901 kg that was by 19.8 % higher than that of the posterity of all the checked boars. Boars of 990 synthetic line and hybrid boar 990 line × Pietren had the average litter weight by 2.1–6.7 % lower than that, on the average, for all boars.

124



РЕФЕРАТЫ

УДК 517.925

С о б о л е в с к и й С. Л. Пенлеве-классификация обыкновенных дифференциальных уравнений произ- вольного порядка с квадратичной правой частью // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 5–10.

Найдены все обыкновенные дифференциальные уравнения в комплексной области произвольного порядка

с квадратичной по зависимой переменной и ее производным правой частью, обладающие сильным свойством Пенлеве. Классификация содержит 7 классов уравнений, лишь один из которых допускает порядок шесть и выше.

Библиогр. – 12 назв.

УДК 517.5

Р о в б а Е. А., М и к у л и ч Е. Г. Константы в приближении функции |x| интерполяционными рацио- нальными процессами // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 11–15.

Исследуется интерполяционный рациональный процесс для функции |x| на отрезке [–1;1] и асимптотиче-

ское поведение порядков равномерных приближений ими функции |x|. Ранее в 1989 г. в работах Е. А. Ровбы уже рассматривались соответствующие асимптотические формулы. В данной работе мы находим точные кон-станты в асимптотических формулах, полученных вышеназванным автором. При нахождении точных констант в асимптотическом поведении равномерных приближений используется метод Лапласа.


УДК 517.977

А с т р о в с к и й А. И. Преобразование линейных нестационарных систем наблюдения со скалярным выходом к каноническим формам Фробениуса // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 16–21.

Для линейных нестационарных систем наблюдения со скалярным выходом получены необходимые и доста-

точные условия возможности преобразования с помощью нестационарной группы класса C1 к системам наблю-дения в формах Хессенберга и Фробениуса.


УДК 512.643

К у ш е л ь О. Ю. О спектре и аппроксимациях одного класса неразложимых матриц // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 22–26.

В данной работе выделяется новый класс матриц, имеющих определенную знакосимметричную структуру.

Такие матрицы называются J-знакосимметричными. Изучается спектр неотрицательной неразложимой матрицы, вторая ассоциированная к которой является J-знакосимметричной и также неразложимой. Приводятся условия, когда такие матрицы имеют комплексные собственные значения, а когда – только вещественные. Попутно рассмат- ривается вопрос в каких случаях возможна аппроксимация неотрицательной матрицы с J-знакосимметричной ассоциированной при помощи положительных матриц со строго J-знакосимметричными ассоциированными.


УДК 511.344:519.852.2

Ш л ы к В. А. Комбинаторные операции порождения вершин политопа разбиений чисел // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 27–32.

Вершины политопа разбиений заданного числа образуют порождающее подмножество для множества всех

его разбиений, составляя своеобразный базис относительно взятия выпуклой комбинации конечных наборов вершин. В работе показано, что этот вершинный «базис» может быть уменьшен. Введены две комбинаторные операции на разбиениях и показано, что с их помощью все вершины каждого политопа разбиений рекурсивно порождаются из подмножества его опорных вершин. Суть обеих операций состоит в том, что некоторые части разбиения объединяются в новые, более крупные части. Таким образом, вершины политопа разбиений, с ком-бинаторной точки зрения, неравнозначны – некоторые из них более важны, чем другие. Вычисления показыва-ют, что число опорных вершин существенно меньше числа всех вершин, которое, в свою очередь, намного меньше полного числа разбиений.

Табл. 1. Библиогр. – 7 назв.

124



РЕФЕРАТЫ

УДК 517.925

С о б о л е в с к и й С. Л. Пенлеве-классификация обыкновенных дифференциальных уравнений произ- вольного порядка с квадратичной правой частью // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 5–10.

Найдены все обыкновенные дифференциальные уравнения в комплексной области произвольного порядка

с квадратичной по зависимой переменной и ее производным правой частью, обладающие сильным свойством Пенлеве. Классификация содержит 7 классов уравнений, лишь один из которых допускает порядок шесть и выше.


УДК 517.5

Р о в б а Е. А., М и к у л и ч Е. Г. Константы в приближении функции |x| интерполяционными рацио- нальными процессами // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 11–15.

Исследуется интерполяционный рациональный процесс для функции |x| на отрезке [–1;1] и асимптотиче-

ское поведение порядков равномерных приближений ими функции |x|. Ранее в 1989 г. в работах Е. А. Ровбы уже рассматривались соответствующие асимптотические формулы. В данной работе мы находим точные кон-станты в асимптотических формулах, полученных вышеназванным автором. При нахождении точных констант в асимптотическом поведении равномерных приближений используется метод Лапласа.


УДК 517.977

А с т р о в с к и й А. И. Преобразование линейных нестационарных систем наблюдения со скалярным выходом к каноническим формам Фробениуса // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 16–21.

Для линейных нестационарных систем наблюдения со скалярным выходом получены необходимые и доста-

точные условия возможности преобразования с помощью нестационарной группы класса C1 к системам наблю-дения в формах Хессенберга и Фробениуса.


УДК 512.643

К у ш е л ь О. Ю. О спектре и аппроксимациях одного класса неразложимых матриц // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 22–26.

В данной работе выделяется новый класс матриц, имеющих определенную знакосимметричную структуру.

Такие матрицы называются J-знакосимметричными. Изучается спектр неотрицательной неразложимой матрицы, вторая ассоциированная к которой является J-знакосимметричной и также неразложимой. Приводятся условия, когда такие матрицы имеют комплексные собственные значения, а когда – только вещественные. Попутно рассмат- ривается вопрос в каких случаях возможна аппроксимация неотрицательной матрицы с J-знакосимметричной ассоциированной при помощи положительных матриц со строго J-знакосимметричными ассоциированными.


УДК 511.344:519.852.2

Ш л ы к В. А. Комбинаторные операции порождения вершин политопа разбиений чисел // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 27–32.

Вершины политопа разбиений заданного числа образуют порождающее подмножество для множества всех

его разбиений, составляя своеобразный базис относительно взятия выпуклой комбинации конечных наборов вершин. В работе показано, что этот вершинный «базис» может быть уменьшен. Введены две комбинаторные операции на разбиениях и показано, что с их помощью все вершины каждого политопа разбиений рекурсивно порождаются из подмножества его опорных вершин. Суть обеих операций состоит в том, что некоторые части разбиения объединяются в новые, более крупные части. Таким образом, вершины политопа разбиений, с ком-бинаторной точки зрения, неравнозначны – некоторые из них более важны, чем другие. Вычисления показыва-ют, что число опорных вершин существенно меньше числа всех вершин, которое, в свою очередь, намного меньше полного числа разбиений.


125

УДК 517.518.832

З а б р е й к о П. П., К о р о ц Ю. В. Анализ неявных последовательных приближений // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 33–38.

В статье находится шар несуществования неподвижной точки нелинейного оператора, удовлетворяющего

условию Липшица на семействе вложенных друг в друга шаров. Приводится теорема о сходимости неявных последовательных приближений к неподвижной точке нелинейного оператора. В качестве приложения рас-сматриваются уравнения со степенным оператором, показано, что известные теоремы П. Ж. Лемарье-Рессе о таких уравнениях являются простыми следствиями общих теорем.

Ил. 2. Библиогр. – 4 назв.

УДК 517.983

М а т ы с и к О. В., С а в ч у к В. Ф. Итерационная процедура неявного типа решения операторных урав- нений в гильбертовом пространстве // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 39–44.

В гильбертовом пространстве для решения операторных уравнений предлагается неявная итерационная

процедура. Доказана сходимость метода в случае априорного выбора числа итераций и получены оценки по-грешности. Изучены случай неединственного решения и сходимость метода в энергетической норме. Для пред-ложенного метода обосновано применение правил останова по соседним приближениям и по невязке.


УДК 517+530.1

Ж е с т к о в С. В. Построение солитоноподобных решений систем уравнений Захарова с логарифмиче- скими законами нелинейности // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 45–49.

Развит метод построения солитоноподобных решений для систем уравнений Захарова с логарифмическими

законами нелинейности и нелинейностью сложной структуры. Библиогр. − 4 назв.

УДК 539.12

К у д р я ш о в В. В., К у р о ч к и н Ю. А., О в с и ю к Е. М., Р е д ь к о в В. М. Движение частицы в магнит- ном поле в пространстве Лобачевского // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 50–53.

Изучено движение релятивистской частицы в 3-мерном пространстве Лобачевского в присутствии внешнего

магнитного поля, являющегося аналогом постоянного однородного магнитного поля в евклидовом пространстве. В цилиндрических координатах найдены три интеграла движения и дано точное решение уравнений движения. Детально рассмотрено движение по поверхности цилиндра постоянного радиуса.


УДК 530.12;621.396

О н и щ у к А. Г., П е г а с и н Д. В., Т о л к а ч е в Е. А. Группы стабильности в теории 4-полюсников // Докл. НАН Беларуси. 2009 . Т. 53, № 6. С. 54–59.

Показано, что классы эквивалентности 4-полюсных преобразователей мощности радиосигналов определяются

малыми группами векторов пространства 3.1R . Построен проективный оператор в пространстве сигналов, осу-ществляющий оптимальное преобразование мощности. На основе бикватернионного аналога векторной пара-метризации группы Лоренца развит алгебраический формализм, позволяющий в явном виде рассчитывать физи-ческие параметры последовательностей различных преобразователей.

Библиогр. – 11 назв. УДК 539.12

С к о р о м н и к О. Д., Ф е р а н ч у к И. Д. Регуляризация формулы Мотта при рассеянии релятивист-ских электронов в кулоновском поле // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 60–67.

В работе показано, что сингулярность дифференциального сечения рассеяния на нулевой угол для реляти-

вистских электронов в кулоновском поле ядра (формула Мотта), как и в нерелятивистском случае, обусловлена некорректным использованием асимптотического выражения для волновой функции электрона при малых углах рассеяния. Для регуляризации сечения использовано решение уравнения Дирака в приближении Фарри–Зоммер- фельда–Мауэ, которое является точным в пределе малых углов. Показано, что поляризационные эффекты, воз-никающие при рассеянии релятивистских электронов, позволяют отделить поток рассеянных частиц от падаю-щих, что дает возможность экспериментального исследования дифракционных эффектов при рассеянии заря-женных частиц.


125

УДК 517.518.832

З а б р е й к о П. П., К о р о ц Ю. В. Анализ неявных последовательных приближений // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 33–38.

В статье находится шар несуществования неподвижной точки нелинейного оператора, удовлетворяющего

условию Липшица на семействе вложенных друг в друга шаров. Приводится теорема о сходимости неявных последовательных приближений к неподвижной точке нелинейного оператора. В качестве приложения рас-сматриваются уравнения со степенным оператором, показано, что известные теоремы П. Ж. Лемарье-Рессе о таких уравнениях являются простыми следствиями общих теорем.


УДК 517.983

М а т ы с и к О. В., С а в ч у к В. Ф. Итерационная процедура неявного типа решения операторных урав- нений в гильбертовом пространстве // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 39–44.

В гильбертовом пространстве для решения операторных уравнений предлагается неявная итерационная

процедура. Доказана сходимость метода в случае априорного выбора числа итераций и получены оценки по-грешности. Изучены случай неединственного решения и сходимость метода в энергетической норме. Для пред-ложенного метода обосновано применение правил останова по соседним приближениям и по невязке.


УДК 517+530.1

Ж е с т к о в С. В. Построение солитоноподобных решений систем уравнений Захарова с логарифмиче- скими законами нелинейности // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 45–49.

Развит метод построения солитоноподобных решений для систем уравнений Захарова с логарифмическими

законами нелинейности и нелинейностью сложной структуры. Библиогр. − 4 назв.

УДК 539.12

К у д р я ш о в В. В., К у р о ч к и н Ю. А., О в с и ю к Е. М., Р е д ь к о в В. М. Движение частицы в магнит- ном поле в пространстве Лобачевского // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 50–53.

Изучено движение релятивистской частицы в 3-мерном пространстве Лобачевского в присутствии внешнего

магнитного поля, являющегося аналогом постоянного однородного магнитного поля в евклидовом пространстве. В цилиндрических координатах найдены три интеграла движения и дано точное решение уравнений движения. Детально рассмотрено движение по поверхности цилиндра постоянного радиуса.


УДК 530.12;621.396

О н и щ у к А. Г., П е г а с и н Д. В., Т о л к а ч е в Е. А. Группы стабильности в теории 4-полюсников // Докл. НАН Беларуси. 2009 . Т. 53, № 6. С. 54–59.

Показано, что классы эквивалентности 4-полюсных преобразователей мощности радиосигналов определяются

малыми группами векторов пространства 3.1R . Построен проективный оператор в пространстве сигналов, осу-ществляющий оптимальное преобразование мощности. На основе бикватернионного аналога векторной пара-метризации группы Лоренца развит алгебраический формализм, позволяющий в явном виде рассчитывать физи-ческие параметры последовательностей различных преобразователей.

Библиогр. – 11 назв. УДК 539.12

С к о р о м н и к О. Д., Ф е р а н ч у к И. Д. Регуляризация формулы Мотта при рассеянии релятивист-ских электронов в кулоновском поле // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 60–67.

В работе показано, что сингулярность дифференциального сечения рассеяния на нулевой угол для реляти-

вистских электронов в кулоновском поле ядра (формула Мотта), как и в нерелятивистском случае, обусловлена некорректным использованием асимптотического выражения для волновой функции электрона при малых углах рассеяния. Для регуляризации сечения использовано решение уравнения Дирака в приближении Фарри–Зоммер- фельда–Мауэ, которое является точным в пределе малых углов. Показано, что поляризационные эффекты, воз-никающие при рассеянии релятивистских электронов, позволяют отделить поток рассеянных частиц от падаю-щих, что дает возможность экспериментального исследования дифракционных эффектов при рассеянии заря-женных частиц.


126

УДК 541.138:547.1’13

Р у д а к о в Д. А., Ш и р о к и й В. Л., К н и ж н и к о в В. А., П о т к и н В. И., М а й е р Н. А., С т а р и- к о в а З. А. Электрохимический синтез тетраметиламмонийной соли 7,4 ′-диметил-8,8′-дибром-бис(1,2- дикарболлил)железа(III) // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 68–71.

Электрохимическим методом с препаративным выходом получена тетраметиламмонийная соль 7,4′-диметил-

8,8′-дибром-бис(1,2-дикарболлил)железа(III). Структура соединения подтверждена рентгеноструктурным анали-зом и охарактеризована методом ИК-спектроскопии и циклической вольтамперометрии.

Ил. 1. Табл. 1. Библиогр. – 17 назв.

УДК 541.182

Д и х т и е в с к а я Л. В., М а к а р е в и ч Н. А., М о ж е й к о Ф. Ф. Влияние поверхностно-активных веществ и неорганических электролитов на межфазное натяжение в системе масло/вода // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 72–76.

Исследовано межфазное натяжение в системе масло/вода в присутствии различных ионных ПАВ и неорга-

нических электролитов. Установлены особенности влияния на величину межфазного натяжения природы ПАВ и масляной фазы, строения их молекул, а также электролитов, включающих ионы различных радиусов, валент-ности и гидратируемости. Определены критерии и условия получения модельных эмульсий на основе парафи-новых углеводородов и технических эмульсий на основе растительных масел.


УДК 577.113+616.717.9-002.5:619:636.2

В а с и л е в с к а я А. В., С е р г е е в Г. В., Г и л е п А. А., У с а н о в С. А. Специфические ПЦР-мишени для идентификации микобактерий комплекса Mycobacterium tuberculosis // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 77–81.

Род Mycobacterium насчитывает несколько десятков видов, большинство из которых непатогенны для челове-

ка. В связи с этим важной задачей при диагностике туберкулеза является специфическая детекция представите-лей комплекса Mycobacterium tuberculosis, так как в него входят микобактерии, вызывающие туберкулез у чело-века и животных.

В настоящей работе методом ПЦР был проведен анализ возможных мишеней для детекции комплекса Mycobacterium tuberculosis. В качестве мишеней были выбраны последовательности следующих генов: после-довательности IS-элементов IS1081 и IS6110; фрагмент RD-области; последовательности консервативных для комплекса генов MPB70 и Rv0577. В результате разработана методика, позволяющая определять микобактерии, относящиеся к комплексу Mycobacterium tuberculosis методом ПЦР.

Ил. 2. Табл. 2. Библиограф. – 30 назв.

УДК 547.92:573.6.086

Х р и п а ч В. А., Л и т в и н о в с к а я Р. П., Д р а ч С. В., А в е р ь к о в а М. А., Ж а б и н с к и й В. Н., С в и р и д о в О. В., П р я д к о А. Г., Н о в и к Т. В., М а т в е е н ц е в В. Д. Иммуноферментный анализ (24S)-метилбрассиностероидов // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 82–85.

Исходя из фитогормона кастастерона осуществлен синтез гаптенов для получения конъюгатов кастастерон–

пероксидаза хрена и кастастерон–бычий сывороточный альбумин, а также поликлональных антител на основе последних. Разработана тест-система для иммунохимического анализа определения фитогормонов, регуляторов роста растений, группы 24S-метилбрассиностероидов – кастастерона и брассинолида.

Табл. 2. Библиогр. – 9 назв. УДК 633.521:57.085.2

Г у з е н к о Е. В., Л е м е ш В. А., Х о т ы л ё в а Л. В. Ризогенез в культуре in vitro у сортов льна-дол- гунца (Linum usitatissimum L.) // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 86–89.

Разработана технология индукции ризогенеза в культуре in vitro у сортов льна-долгунца путем создания

определенных условий культивирования, стимулирующих корнеобразование. Регенерировавшие побеги длиной более 2 см переносили на среду для ризогенеза (MS с половинным набором макро- и микросолей), при этом побеги льна не заглублялись в питательную среду, а культивировались на границе питательная среда/воздух. Основной период образования корней для всех исследованных генотипов составил 12 дней и наблюдался на 7–18 сут. Средняя величина эффективности ризогенеза для исследованных сортов льна-долгунца составила 51,6 %. Индук-ция ризогенеза по разработанной технологии позволяет успешно получать функциональные корни у растений-регенерантов льна-долгунца.

Табл. 1. Ил. 3. Библиогр. – 14 назв.

126

УДК 541.138:547.1’13

Р у д а к о в Д. А., Ш и р о к и й В. Л., К н и ж н и к о в В. А., П о т к и н В. И., М а й е р Н. А., С т а р и- к о в а З. А. Электрохимический синтез тетраметиламмонийной соли 7,4 ′-диметил-8,8′-дибром-бис(1,2- дикарболлил)железа(III) // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 68–71.

Электрохимическим методом с препаративным выходом получена тетраметиламмонийная соль 7,4′-диметил-

8,8′-дибром-бис(1,2-дикарболлил)железа(III). Структура соединения подтверждена рентгеноструктурным анали-зом и охарактеризована методом ИК-спектроскопии и циклической вольтамперометрии.


УДК 541.182

Д и х т и е в с к а я Л. В., М а к а р е в и ч Н. А., М о ж е й к о Ф. Ф. Влияние поверхностно-активных веществ и неорганических электролитов на межфазное натяжение в системе масло/вода // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 72–76.

Исследовано межфазное натяжение в системе масло/вода в присутствии различных ионных ПАВ и неорга-

нических электролитов. Установлены особенности влияния на величину межфазного натяжения природы ПАВ и масляной фазы, строения их молекул, а также электролитов, включающих ионы различных радиусов, валент-ности и гидратируемости. Определены критерии и условия получения модельных эмульсий на основе парафи-новых углеводородов и технических эмульсий на основе растительных масел.


УДК 577.113+616.717.9-002.5:619:636.2

В а с и л е в с к а я А. В., С е р г е е в Г. В., Г и л е п А. А., У с а н о в С. А. Специфические ПЦР-мишени для идентификации микобактерий комплекса Mycobacterium tuberculosis // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 77–81.

Род Mycobacterium насчитывает несколько десятков видов, большинство из которых непатогенны для челове-

ка. В связи с этим важной задачей при диагностике туберкулеза является специфическая детекция представите-лей комплекса Mycobacterium tuberculosis, так как в него входят микобактерии, вызывающие туберкулез у чело-века и животных.

В настоящей работе методом ПЦР был проведен анализ возможных мишеней для детекции комплекса Mycobacterium tuberculosis. В качестве мишеней были выбраны последовательности следующих генов: после-довательности IS-элементов IS1081 и IS6110; фрагмент RD-области; последовательности консервативных для комплекса генов MPB70 и Rv0577. В результате разработана методика, позволяющая определять микобактерии, относящиеся к комплексу Mycobacterium tuberculosis методом ПЦР.

Ил. 2. Табл. 2. Библиограф. – 30 назв.

УДК 547.92:573.6.086

Х р и п а ч В. А., Л и т в и н о в с к а я Р. П., Д р а ч С. В., А в е р ь к о в а М. А., Ж а б и н с к и й В. Н., С в и р и д о в О. В., П р я д к о А. Г., Н о в и к Т. В., М а т в е е н ц е в В. Д. Иммуноферментный анализ (24S)-метилбрассиностероидов // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 82–85.

Исходя из фитогормона кастастерона осуществлен синтез гаптенов для получения конъюгатов кастастерон–

пероксидаза хрена и кастастерон–бычий сывороточный альбумин, а также поликлональных антител на основе последних. Разработана тест-система для иммунохимического анализа определения фитогормонов, регуляторов роста растений, группы 24S-метилбрассиностероидов – кастастерона и брассинолида.

Табл. 2. Библиогр. – 9 назв. УДК 633.521:57.085.2

Г у з е н к о Е. В., Л е м е ш В. А., Х о т ы л ё в а Л. В. Ризогенез в культуре in vitro у сортов льна-дол- гунца (Linum usitatissimum L.) // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 86–89.

Разработана технология индукции ризогенеза в культуре in vitro у сортов льна-долгунца путем создания

определенных условий культивирования, стимулирующих корнеобразование. Регенерировавшие побеги длиной более 2 см переносили на среду для ризогенеза (MS с половинным набором макро- и микросолей), при этом побеги льна не заглублялись в питательную среду, а культивировались на границе питательная среда/воздух. Основной период образования корней для всех исследованных генотипов составил 12 дней и наблюдался на 7–18 сут. Средняя величина эффективности ризогенеза для исследованных сортов льна-долгунца составила 51,6 %. Индук-ция ризогенеза по разработанной технологии позволяет успешно получать функциональные корни у растений-регенерантов льна-долгунца.


127

УДК 577.21:632.38:635.21:631.524.86

П а в л ю ч у к Н. В., В о р о н к о в а Е. В., Б у л о й ч и к А. А., М а х а н ь к о В. Л., Р у с е ц к и й Н. В. Скрининг устойчивых к L-вирусу генотипов картофеля (Solanum tuberosum) с использованием ПЦР-мар- керов // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 90–93.

Проведен скрининг 48 коллекционных образцов картофеля на устойчивость к ВСЛК с помощью ПЦР-мар-

кера NL27, идентифицирующего локус PLRV.1, связанный с этим признаком. На основании результатов ПЦР-анализа отобрано 25 генотипов, несущих QTL PLRV.1. Выделенные по наличию этого локуса формы рекоменду-ется использовать в селекционных программах в качестве потенциальных источников резистентности к L-вирусу.


УДК 575.17:340.6

Ц ы б о в с к и й И. С., В е р е м е й ч и к В. М., К р и ц к а я С. В., Е в м е н е н к о С. А., Л о б а ц е в и ч С. М., П а в л ю ч е н к о А. В., К а р т е л ь Н. А., Ж и в о т о в с к и й Л. А. Референтная база данных аутосом-ных ДНК-маркеров: возможности анализа больших массивов генотипов современного населения Бела- руси // Докл. HAH Беларуси. 2009. Т. 53, № 6. С. 94–99.

Впервые исследован массив генотипов криминалистической базы данных МВД Республики Беларусь,

включающий 9626 генотипов из 109 административных районов и 13 пенитенциарных учреждений, в сравне-нии с популяционными выборками этнических белорусов, русских, украинцев и др. Методами генетико-стати- стического анализа показано отсутствие статистически значимых отличий между восточно-славянскими попу-ляциями. Установлены значимые различия между характером распределения частот встречаемости аллелей у населения Беларуси и частотами аллелей у белого населения США, рекомендованными корпорациями «Promega» и «Applied Biosystems», что доказывает неадекватность их использования в экспертных учреждениях страны. Полученные результаты подтверждают необходимость формирования национальной референтной базы данных ДНК-маркеров для нужд экспертного ДНК-анализа и возможность использования для этой цели накоп-ленных больших массивов генотипов современного населения Беларуси при условии проведения их тщательного генетико-статистического анализа.


УДК 911+551.5+551.59(476)+551.3+662.83/85

Л о г и н о в В. Ф., К а р а т а е в Г. И. Тектонофизическая природа шквальных вихрей в Беларуси // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 100–104.

Сравнительный анализ аномалий шквалов и геофизических полей в Беларуси показывает, что максимумы

шквалов обусловлены наличием одновременно действующих факторов: вихревой структурой локальных участ-ков земной коры, узлами разломов, глубинными электропроводящими зонами и значительной гравитационной энергией.


УДК 621.315.612

Т х э к в о н К и м, Г а п о н е н к о Н. В., С т е п а н о в а Е. А., Р а т ь к о А. И. Индуцированные термообработ- кой изменения в ксерогеле титаната бария-стронция // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 105–109.

В данной работе методами ИК-спектроскопии и рентгенофазового анализа исследованы индуцированные

термообработкой изменения в ксерогеле (Ba0,6Sr0,3Ca0,1)TiO3, полученных на основе тетраизопроксититана. При увеличении температуры до 200 ºС происходит испарение остаточных в ксерогеле органических растворителей. Дальнейшее увеличение температуры отжига приводит к формированию фазы карбоната в результате реакции разложения органических материалов. При температуре выше 600 ºС происходит превращение промежуточной аморфной фазы в кристаллическую. При температуре отжига 750 ºС завершается полная кристаллизация образ-ца с образованием структуры перовскита титаната бария-стронция-кальция.


УДК 542.943′92:546.623′62:541.183:541.18.0:539.26′25

Р о м а н е н к о в В. Е., П е т ю ш и к Е. Е., А ф а н а с ь е в а Н. А. Расчет коэффициента диффузии в системе Al/Al(OH)3/H2O при гидратационном твердении пигментной алюминиевой пудры // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 110–113.

В работе рассчитан коэффициент диффузии водного раствора ионов Al(OH)4

– от поверхности растворя- ющегося алюминия через пористый слой к поверхностям растущих нанокристаллитов на основе физико-хи- мической кинетической модели. Показано, что использование физико-химической модели позволяет существенно повысить точность расчета коэффициента диффузии.


127

УДК 577.21:632.38:635.21:631.524.86

П а в л ю ч у к Н. В., В о р о н к о в а Е. В., Б у л о й ч и к А. А., М а х а н ь к о В. Л., Р у с е ц к и й Н. В. Скрининг устойчивых к L-вирусу генотипов картофеля (Solanum tuberosum) с использованием ПЦР-мар- керов // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 90–93.

Проведен скрининг 48 коллекционных образцов картофеля на устойчивость к ВСЛК с помощью ПЦР-мар-

кера NL27, идентифицирующего локус PLRV.1, связанный с этим признаком. На основании результатов ПЦР-анализа отобрано 25 генотипов, несущих QTL PLRV.1. Выделенные по наличию этого локуса формы рекоменду-ется использовать в селекционных программах в качестве потенциальных источников резистентности к L-вирусу.


УДК 575.17:340.6

Ц ы б о в с к и й И. С., В е р е м е й ч и к В. М., К р и ц к а я С. В., Е в м е н е н к о С. А., Л о б а ц е в и ч С. М., П а в л ю ч е н к о А. В., К а р т е л ь Н. А., Ж и в о т о в с к и й Л. А. Референтная база данных аутосом-ных ДНК-маркеров: возможности анализа больших массивов генотипов современного населения Бела- руси // Докл. HAH Беларуси. 2009. Т. 53, № 6. С. 94–99.

Впервые исследован массив генотипов криминалистической базы данных МВД Республики Беларусь,

включающий 9626 генотипов из 109 административных районов и 13 пенитенциарных учреждений, в сравне-нии с популяционными выборками этнических белорусов, русских, украинцев и др. Методами генетико-стати- стического анализа показано отсутствие статистически значимых отличий между восточно-славянскими попу-ляциями. Установлены значимые различия между характером распределения частот встречаемости аллелей у населения Беларуси и частотами аллелей у белого населения США, рекомендованными корпорациями «Promega» и «Applied Biosystems», что доказывает неадекватность их использования в экспертных учреждениях страны. Полученные результаты подтверждают необходимость формирования национальной референтной базы данных ДНК-маркеров для нужд экспертного ДНК-анализа и возможность использования для этой цели накоп-ленных больших массивов генотипов современного населения Беларуси при условии проведения их тщательного генетико-статистического анализа.


УДК 911+551.5+551.59(476)+551.3+662.83/85

Л о г и н о в В. Ф., К а р а т а е в Г. И. Тектонофизическая природа шквальных вихрей в Беларуси // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 100–104.

Сравнительный анализ аномалий шквалов и геофизических полей в Беларуси показывает, что максимумы

шквалов обусловлены наличием одновременно действующих факторов: вихревой структурой локальных участ-ков земной коры, узлами разломов, глубинными электропроводящими зонами и значительной гравитационной энергией.


УДК 621.315.612

Т х э к в о н К и м, Г а п о н е н к о Н. В., С т е п а н о в а Е. А., Р а т ь к о А. И. Индуцированные термообработ- кой изменения в ксерогеле титаната бария-стронция // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 105–109.

В данной работе методами ИК-спектроскопии и рентгенофазового анализа исследованы индуцированные

термообработкой изменения в ксерогеле (Ba0,6Sr0,3Ca0,1)TiO3, полученных на основе тетраизопроксититана. При увеличении температуры до 200 ºС происходит испарение остаточных в ксерогеле органических растворителей. Дальнейшее увеличение температуры отжига приводит к формированию фазы карбоната в результате реакции разложения органических материалов. При температуре выше 600 ºС происходит превращение промежуточной аморфной фазы в кристаллическую. При температуре отжига 750 ºС завершается полная кристаллизация образ-ца с образованием структуры перовскита титаната бария-стронция-кальция.


УДК 542.943′92:546.623′62:541.183:541.18.0:539.26′25

Р о м а н е н к о в В. Е., П е т ю ш и к Е. Е., А ф а н а с ь е в а Н. А. Расчет коэффициента диффузии в системе Al/Al(OH)3/H2O при гидратационном твердении пигментной алюминиевой пудры // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 110–113.

В работе рассчитан коэффициент диффузии водного раствора ионов Al(OH)4

– от поверхности растворя- ющегося алюминия через пористый слой к поверхностям растущих нанокристаллитов на основе физико-хи- мической кинетической модели. Показано, что использование физико-химической модели позволяет существенно повысить точность расчета коэффициента диффузии.


128

УДК 621.937

М и н ч е н я В. Т., С т е п а н е н к о Д. А. Линейные колебания двухступенчатого волновода-концентра- тора для ультразвукового тромболизиса // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 114–119.

В статье описана математическая модель, позволяющая исследовать линейные продольные и изгибные коле-

бания ступенчатых гибких волноводов-концентраторов для ультразвукового тромболизиса. Для заданной частоты колебаний построены резонансные кривые продольных и изгибных колебаний двухступенчатого волновода-концентратора. Определены значения длин ступеней, обеспечивающие совместный резонанс продольных и изгиб-ных колебаний для заданной частоты. Адекватность предложенной модели подтверждена результатами конеч-но-элементного моделирования с использованием программы ANSYS.


УДК 636.4.082.22:636.082.31

Ш е й к о И. П., Х о д о с о в с к и й Д. Н. Оценка хряков-производителей по качеству потомства на про- мышленных свинокомплексах // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 120–123.

В условиях крупного свиноводческого комплекса проведена оценка продуктивности и жизнеспособности

потомства от хряков мясных пород и синтетических линий. Установлено, что лучшие показатели были у потом-ства хряка № 40 породы ландрас польской селекции. Средняя масса гнезда при реализации его потомков соста-вила 901 кг, что на 19,8 % больше, чем в целом по потомству всех проверяемых хряков. Хряки 990 синтетиче-ской линии и гибридный хряк 990 линия × пьетрен имели среднюю массу гнезда при реализации на 2,1–6,7 % ниже, чем в среднем по всем производителям.


128

УДК 621.937

М и н ч е н я В. Т., С т е п а н е н к о Д. А. Линейные колебания двухступенчатого волновода-концентра- тора для ультразвукового тромболизиса // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 114–119.

В статье описана математическая модель, позволяющая исследовать линейные продольные и изгибные коле-

бания ступенчатых гибких волноводов-концентраторов для ультразвукового тромболизиса. Для заданной частоты колебаний построены резонансные кривые продольных и изгибных колебаний двухступенчатого волновода-концентратора. Определены значения длин ступеней, обеспечивающие совместный резонанс продольных и изгиб-ных колебаний для заданной частоты. Адекватность предложенной модели подтверждена результатами конеч-но-элементного моделирования с использованием программы ANSYS.


УДК 636.4.082.22:636.082.31

Ш е й к о И. П., Х о д о с о в с к и й Д. Н. Оценка хряков-производителей по качеству потомства на про- мышленных свинокомплексах // Докл. НАН Беларуси. 2009. Т. 53, № 6. С. 120–123.

В условиях крупного свиноводческого комплекса проведена оценка продуктивности и жизнеспособности

потомства от хряков мясных пород и синтетических линий. Установлено, что лучшие показатели были у потом-ства хряка № 40 породы ландрас польской селекции. Средняя масса гнезда при реализации его потомков соста-вила 901 кг, что на 19,8 % больше, чем в целом по потомству всех проверяемых хряков. Хряки 990 синтетиче-ской линии и гибридный хряк 990 линия × пьетрен имели среднюю массу гнезда при реализации на 2,1–6,7 % ниже, чем в среднем по всем производителям.


Date post:	20-Mar-2020
Category:	Documents
Upload:	others
View:	2 times
Download:	0 times

ДОКЛАДЫcsl.bas-net.by/xfile/doklad/2009/06-2009/0b4s2g.pdf · 2011-11-02 · 1...

Documents