3.2.5. Трехдозовый латинский квадрат (на примере биологической активности антибиотиков методом диффузии в агар в чашках Петри)

Биологическую активность антибиотика определяли по зонам угнетения роста микроорганизмов. В каждую чашку Петри внесли по 3 раствора стандартного образца и 3 раствора испытуемого образца. Соотношение концентраций 1:1,5. В качестве ответа принимали диаметр зоны угнетения роста микроорганизмов в мм. Последовательность внесения растворов в лунки или цилиндры приведена в таблице 3.2.5.-15.

Таблица 3.2.5.-15. - Порядок внесения растворов стандартного образца и испытуемого препарата антибиотика в чашки Петри (схема трехдозового латинского квадрата)

Для того чтобы проверить статистическую значимость источников вариации, пригодность результатов и вычислить дисперсию опыта, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 10 источников (сводная таблица 3.2.5.-18).

Для этого на основании данных, представленных в таблицах 3.2.5.-16 и 3.2.5.-17, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.

Таблица 3.2.5.-16. - Диаметр зоны угнетения роста микроорганизмов (трехдозовый латинский квадрат, определение биологической активности антибиотиков методом диффузии в агар в чашках Петри)

Таблица 3.2.5.-17. - Суммы ответов и контрасты (трехдозовый латинский квадрат, определение биологической активности антибиотиков методом диффузии в агар в чашках Петри)

Таблица 3.2.5.-18. - Сводная таблица дисперсионного анализа (трехдозовый латинский квадрат, определение биологической активности антибиотиков методом диффузии в агар в чашках Петри)

Поправочный коэффициент

;

;

;

;

;

;

;

;

;

;

Отклонение = итог - постановки - строки - столбцы =

= 29,2922 - 26,9789 - 0,2189 - 0,2322 = 1,8622.

Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей Регрессия, Непараллельность, Квадратичность, Разность квадратичностей, Строки и Столбцы. Для Регрессии наблюдаемое значение критерия Фишера должно быть больше критического (p = 0,01), а для показателей Непараллельность (p = 0,05), Строки (p = 0,01) и Столбцы (p = 0,01) - меньше критического. Показатель Регрессия характеризует дозозависимость, Непараллельность - параллельность двух линий регрессии, Квадратичность и Разность квадратичностей - линейность дозозависимости, а Строки и Столбцы - сбалансированность ответов на протяжении всего опыта.

Для того чтобы найти F_набл. средние квадраты показателей делят на средний квадрат показателя Отклонение. Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (таблица 3 Приложения). Число степеней свободы f₁ = 1 или 5, а f₂ = 20.

Дисперсионный анализ показал пригодность результатов опыта: статистическую значимость дозозависимости (Регрессия), параллельность двух линий регрессии (Непараллельность), линейность дозозависимости (Квадратичность и Разность квадратичностей) и отсутствие статистически значимых различий между строками и столбцами (см. одноименные показатели).

Вычисление биологической активности и ее доверительных границ

Соотношение концентраций равно 1,5, следовательно I = lg1,5 = 0,1761;

t = 2,5638 + 5,49059 / f + 2,72654 / f² +

+ 31,2446 / f³ + 21,6745 / f¹⁰ = 2,849

при f = 20 и p = 0,01;

;

;

;

;

Ожидаемая активность A_U = 1000 МЕ/мг;

;

Биологическая активность

;

C = E / (E - s²t²) =

= 26,46 / (26,46 - 0,09311 · 2,849²) = 1,0294.

Логарифмические доверительные границы биологической активности испытуемого образца вычисляют по формуле:

.

Логарифмические доверительные границы биологической активности испытуемого образца составляют -0,08610 и 0,01325 Нижняя и верхняя доверительная граница составляет и , т.е. 820,09 МЕ/мг и 1030,97 МЕ/мг соответственно.