Н. В. Перцев планирование и математическая обработка результатов химического эксперимента учебное пособие



страница46/46
Дата26.06.2015
Размер4.46 Mb.
1   ...   38   39   40   41   42   43   44   45   46

Приложение 3


Статистические таблицы

  1. А. Критические значения коэффициента асимметрии


n = 0,05 = 0,01250,711,06300,660,98350,620,92400,590,87450,560,82500,530,791000,390,57(по данным [17, с. 284])

  1. B. Критические значения коэффициента эксцесса


n = 0,10 = 0,05=0,01110,890,910,94160,870,890,91210,860,880,90310,850,860,88410,840,850,87510,840,850,861010,830,830,85(по данным [17, с. 285])
Проверка нормальности распределения по критериям асимметрии и эксцесса при малых n ненадежна!

  1. С. Критические значения 2 – критерия Пирсона
    в зависимости от уровня значимости () и числа степеней свободы (df)


df=0,99=0,95=0,90=0,50=0,10=0,05=0,0120,020,100,211,394,605,999,2130,110,350,582,376,257,8211,3440,300,711,063,367,789,4913,2850,551,141,614,359,2411,0715,0960,871,642,205,3510,6412,5916,8171,242,172,836,3512,0214,0718,4881,652,733,497,3413,3615,5120,0992,093,324,178,3414,68,16,9221,67102,563,944,869,3415,9918,3123,21155,237,268,5514,3422,3125,0030,58208,2610,8512,4419,3428,4131,4137,575029,7134,7637,6949,3363,1767,5076,15(по данным [11, с. 525–526])

  1. D. Значения функции Лапласа


По данным [13, с. 164] даны значения функции Ф(U), характеризующие вероятность попадания случайной величины в интервал (0, U) при ее нормальном распределении. Геометрически функция Лапласа соответствует доле площади под кривой нормированного нормального распределения, ограниченной абсциссами (0, U). Величина Ф(U) вычисляется как определенный интеграл:

Ф(U) = .



UФ(U)UФ(U)UФ(U)0,010,0040 0,900,31591,900,47130,030,01200,95 0,32891,950,47440,050,01991,000,34132,000,47720,070,02791,050,35312,100,48210,100,03981,100,36432,200,48610,150,05961,150,37493,300,48930,200,07931,200,38492,400,49180,250,09871,250,39442,500,49380,300,11791,400,40322,600,49530,350,13681,350,41152,700,49650,400,15541,400,41922,800,49740,450,17361,450,42652,900,49810,500,19151,500,43323,000,498650,550,20881,550,43943,200,499310,600,22571,600,44523,400,499660,650,24221,650,45053,600,499840,700,25801,700,4554 3,800,4999280,750,27341,750,4599 4,000,4999680,800,28811,800,46415,000,4999970,850,30231,850,4678

  1. E. Критические значения коэффициента Стьюдента


Приведены значения аргумента функции Ф(t, df) для разного числа степеней свободы df и некоторых значений уровня значимости  = 1 – P, где P соответствует вероятности попадания случайной величины t в интервал (0, t) для распределения Стьюдента при заданном числе степеней свободы. Геометрически функция Ф (t, df) соответствует доле площади под кривой Стьюдента, ограниченной абсциссами (0, t).


df = 0,10

P = 0,90 = 0,05

P = 0,95 = 0,01

P = 0,9916,3112,763,622,924,309,9332,353,185,8442,132,784,6052,022,574,0361,942,453,7171,902,373,5081,862,313,3691,832,263,25101,812,233,17151,752,132,95201,732,092,85251,712,062,79301,702,042,751,651,962,58(по данным [13, c. 165])


  1. F. Критические значения Q-теста для разных уровней значимости 


n = 0,10 = 0,05 = 0,0130,940,980,9940,760,850,9350,640,730,8260,560,640,7470,510,590,6880,470,540,6390,440,510,60100,410,480,57(по данным [30, c. 38])
Использование этого параметрического критерия описано в разделе 6.4.1. Если выборка включает от 3 до 7 вариант, используются формулы:

Q = или Q = .

В случае выборки, включающей 8 и более вариант, используются несколько иные формулы

Q = или Q = .

В обоих случаях первая формула используется для проверки наибольшей варианты Хn, а вторая – для наименьшей варианты Х1. При n > 10 лучше использовать метод максимального отклонения. Приведенные в таблице значения Q-теста предназначены для одновременной отбраковки и слишком больших, и слишком маленьких вариант (двусторонний критерий). В литературе приводятся и другие табличные значения Q-теста (например, в [11]), но в этом случае он должен использоваться как односторонний критерий, например, при проверке вариант, выскакивающих только в сторону больших значений.


  1. G. Критические значения максимального относительного отклонения крит


n = 0,10 = 0,05 = 0,0131,411,411,4141,651,691,7251,791,871,9661,892,002,1371,972,092,2782,042,172,3792,102,242,46102,152,292,54152,332,492,80202,452,622,96252,542,723,07(по данным [8, c. 164] )
Результат измерения считают грубым промахом, если вычисленная величина

эксп =

превышает критическое значение для выбранного уровня значимости  с учетом объема выборки n. Величину S следует рассчитывать с учетом сомнительной варианты. Критерий применяют для обработки нормально распределенных данных. В литературе иногда рекомендуют вычислять не обычное, а «исправленное» значение :

эксп =

и сопоставлять его с вышеприведенными критическими значениями.

  1. H. Критические значения критерия Фишера

а) Для уровня значимости 0,05



df2 / df11234561016241161200216 225 230234242246249254218,519,019,2 19,319,319,319,419,419,49,5310,19,69,39,19,08,98,88,78,68,547,76,96,66,46,36,26,05,85,85,656,65,85,45,25,15,04,74,64,54,466,0 5,14,84,54,44,34,13,93,83,795,14,33,93,63,53,43,13,02,92,7144,63,73,33,13,02,92,62,42,32,1244,33,43,02,82,62,52,32,12,01,73,83,02,62,42,22,11,81,61,51,0

б) Для уровня значимости 0,01:



df2 / df1123456101624 140524999540356255764585960566169623463662 98,599,099,299,399,399,399,499,499,599,5334,130,829,528,728,227,927,226,826,626,1421,218,016,716,015,515,214,514,113,913,5516,313,312,111,411,010,710,19,79,59,0613,710,99,89,28,88,57,97,57,36,9910,68,07,06,46,15,85,34,94,74,3148,96,55,65,04,74,53,93,63,43,0247,85,64,74,23,93,73,22,92,72,26,64,63,83,33,02,82,22,01,81,0

Приведенные данные соответствуют данным [10, c.246-249], но округлены до десятых долей. Дисперсии неоднородны, если отношение большей из них (первой) к меньшей (второй) превышает критическое значение F для выбранного уровня значимости с учетом числа степеней свободы df1 и df2.


  1. J. Критические значения критерия Кохрена

а) Уровень значимости 0,05



N Значения критерия для разного числа степеней свободы12345678920,9980,9750,9400,9060,8770,8530,8330,8160,80130,9670,8710,7980,7460,7070,6770,6530,6330,61740,9060,7680,6840,6290,5890,5600,5360,5170,50250,8410,6840,5980,5440,5060,4780,4560,4390,42460,7810,6160,5320,4800,4450,4180,3980,3820,36870,7270,5610,4800,4310,3970,3730,3540,3380,326100,6020,4450,3730,3310,3030,2820,2670,2540,244150,4710,3350,2760,2420,2200,2030,1910,1820,174200,3890,2710,2210,1920,1740,1600,1500,1420,136

б) Уровень значимости 0,01



N Значения критерия для разного числа степеней свободы12345678920,9990,9950,9790,9590,9370,9170,9000,8820,86730,9930,9420,8830,8340,7930,7610,7340,7110,69140,9680,8640,7810,7210,6760,6410,6130,5900,57050,9280,7880,6960,6330,5870,5530,5260,5040,48560,8830,7220,6260,5640,5200,4870,4610,4400,42370,8380,6640,5180,5080,4660,4350,4100,3910,375100,71705360,4470,3930,3570,3310,3110,2940,281150,5750,4070,3320,2880,2590,2390,22310,2100,200200,4800,3300,2650,2290,2050,1880,1750,1650,157

При сопоставлении N дисперсий одинакового объема (по n параллельных опытов в каждой из N выборок) они считаются неоднородными при заданном уровне значимости, если G > Gтабл, где G – отношение максимальной дисперсии к сумме всех дисперсий. Число степеней свободы df = n – 1. В противном случае значимость нуль-гипотезы об однородности дисперсий превышает заданный уровень, все дисперсии считаются однородными.


  1. K. Критерий знаков

Указаны критические значения количества «плюсов», для разного числа (n) ненулевых разностей и для разных уровней значимости при сопоставлении попарно связанных выборок.


n = 0,05 = 0,01n = 0,05 = 0,01n = 0,05 = 0,0177–141213251820888151213302123989161314402729109101713155033351110111814156039411210111915168050521311122015171006164(по данным [17, c. 283)

  1. L. Критические значения коэффициента линейной корреляции


n = 0,05 = 0,01n = 0,05 = 0,01n = 0,05 = 0,0130,997–110,600,74190,460,5840,950,99120,580,71200,440,5650,880,96130,550,68210,430,5560,810,92140,530,66220,420,5470,750,87150,510,64230,410,5380,710,83160,500,62240,400,5290,670,80170,480,61250,400,51100,630,77180,470,59300,360,46(по данным [17, с.285])
При n < 7 корреляционный анализ ненадежен!


  1. M. Критические значения критерия Смирнова


в зависимости от уровня значимости (α) и объема выборки n
nα = 0,05α = 0,025nα = 0,05α = 0,02531,4121,414152,4932,63841,6891,710162,5232,67051,8691,917172,5512,70161,9962,067182,5772,72872,0931,182192,6002,75482,1722,273202,6232,77892,2372,349212,6442,801102,2942,414222,6642,823112,3432,470232,6832,843122,3872,519242,7012,862132,4262,562252,7172,880142,4612,602262,7342,897(по данным [21, с. 302])

  1. N. Критические значения критерия Граббса


в зависимости от уровня значимости (α) и объема выборки n
nα = 0,05α = 0,025nα = 0,05α = 0,02540,04940,0248150,55590,503050,12700,0808160,57550,524660,20320,1453170,59330,544270,26960,2066180,60950,562180,32610,2616190,62430,578590,37420,3101200,63790,5937100,41540,3526210,65040,6076110,45110,3901220,66210,6206120,48220,4232230,67280,6327130,50970,4528240,68290,6439140,53400,4792250,69230,6544(по данным [21, с. 304])


  1. О. Критические значения критерия Краскела-Уоллиса


в зависимости от уровня значимости (α)
и объемов выборок n1, n2, n3

n1n2n3α = 0,05α= 0,015435,6567,4455535,7057,5785545,6667,8235555,7808,0006325,3486,9706335,6157,4106435,6107,5006445,6817,7956545,6617,9366555,7298,0286655,7658,1246665,8018,2227775,8198,3788885,8058,465(по данным [19, с. 307, 308])


  1. P. Критические значения критерия Фридмана


в зависимости от уровня значимости (α)
и числа уровней для факторов k и n

knα = 0,05α = 0,01356,408,40367,009,00377,148,86386,259,00447,809,60457,809,96467,6010,20538,5310,13548,8011,20558,9611,68639,8611,76(по данным [19, с. 309–311])
  • Список литературы


  1. Сивоконь М.Е. Методологические проблемы естественно-науч-
    ного эксперимента. – М.: МГУ, 1968. – 370 с.

  2. Макареня А.А., Обухов В.П. Методология химии. – М.: Просвещение, 1985. – 160 с.

  3. Бэйнз А., Бредбери Ф., Саклинг С. Организация исследований в химии и химической промышленности. – М.: Химия, 1974.

  4. Адлер Ю.П., Маркова Е.В., Грановский Ю.В. Планирование эксперимента при поиске оптимальных условий. – М.: Наука, 1976. – 279 с.

  5. Штекли А. Галилей. – М.: Молодая гвардия, 1972. – С. 19.

  6. Маркова Е.В., Рохваргер А.Е. Математическое планирование химического эксперимента. – М.: Знание, 1971. – 31 с.

  7. Хикс Ч. Основные принципы планирования эксперимента. – М.: Мир, 1967.

  8. Оствальд В., Лютер Р., Друкер К. Физико-химические измерения / Пер. с нем. – Ч. 1. – Л.: ОНТИ-Химтеорет, 1935. – 379 с.

  9. Дворкин В.И. Метрология и обеспечение качества количественного анализа – М.: Химия, 2001. – 320 с.

  10. Дерффель К. Статистика в аналитической химии. – М.: Мир, 1994. – 267 с.

  11. Джонсон Н., Лион Ф. Статистика и планирование эксперимента в технике и науке. – М.: Мир, 1980. – Т. 1. Методы обработки данных. Гл. 1, 2, 5, 8.

  12. Общая теория статистики / Под ред. А.Я. Боярского и Г.Л. Громыко. – М.: Изд-во МГУ, 1985. – 375 с.

  13. Чарыков А.К. Математическая обработка результатов химичес-
    кого анализа. – Л.: Химия, 1984. – 167 с.

  14. Румшинский А.З. Математическая обработка результатов эксперимента. – М.: Наука, 1971. – 192 с.

  15. Вершинин В.И., Дерендяев Б.Г., Лебедев К.С. Компьютерная идентификация органических соединений. – М.: Академкнига, 2002. – 197 с.

  16. Физико-химические методы анализа: Практ. пособие / Под ред. В.Б. Алексовского и К.Б. Яцимирского. – Л.: Химия, 1971. – С. 24–54.

  17. Лакин Г.Ф. Биометрия. – М.: Высшая школа, 1980. – 292 с.

  18. Рузинов Л.П., Слободчикова Р.И. Планирование эксперимента в химии и химической технологии. – М.: Химия, 1980. – 280 с.

  19. Ликеш И., Ляга И. Основные таблицы математической статистики. – М.: Финансы и статистика, 1985. – 356 с.

  20. Холлендер М., Вульф Д. Непараметрические методы статистики. – М.: Финансы и статистика, 1983. – 518 с.

  21. Дубров А.М., Мхитарян В.С., Трошин Л.И. Многомерные статистические методы. – М.: Финансы и статистика, 2000, – 352 с.

  22. Тюрин Ю.Н., Макаров А.А. Анализ данных на компьютере: 3-е изд., перераб. и доп. – М.: Инфра-М, 2003. – 544 с.

  23. Грановский Ю.В. Основы планирования экстремального эксперимента для оптимизации многофакторных технологических процессов. – М.: Изд-во МИНХ, 1971. – 71 с.

  24. Горский В.Г., Бродский В.З. Новые идеи в планировании эксперимента. – М.: Наука, 1969. – С. 54.

  25. Вершинина О.И., Наделяева И.Л., Вершинин В.И. Симплексная оптимизация с обобщенным параметром при кинетическом определении молибдена // Известия ВУЗов СССР. Химия и химическая технология. – 1986. – Т. 29. – № 8. – С. 35–37.

  26. Петрук Е.А., Галкин В.В., Вершинин В.И. Расчетные программы для ПЭВМ в вузовском курсе аналитической химии // Журнал аналитической химии. – 1994. – Т. 49. – Вып. 8. – С. 393–398.

  27. Боровиков В.П. Популярное введение в программу STATISTICA. – М.: Компьютер Пресс, 1998. – 267 с.

  28. Боровиков В.П., Боровиков И.П. Statistica. Статистический анализ и обработка данных в среде Windows. – М.: Филинъ, 1998. – 608 с.

  29. Боровиков В.П. STATISTICA: искусство анализа данных на компьютере. Для профессионалов. – СПб.: Питер, 2001. – 656 с.

  30. Фритц Дж., Шенк Г. Количественный анализ. – М.: Мир, 1978. – 556 с.



Оглавление


В.И. Вершинин, Н.В. Перцев


Планирование

и математическая обработка результатов

химического эксперимента
Учебное пособие

Технический редактор М.В. Быкова

Редактор
______________________________________________________________
Подписано в печать …... Формат бумаги 60х84 1/16.

Печ. л. …… Усл.-печ. л. ….. Тираж 250 экз. Заказ .


Издательство ОмГУ

644077, г. Омск, пр. Мира, 55-а, госуниверситет


1 Возможен и случай, когда единственная цель исследования – получение диплома о высшем образовании или ученой степени. С настоящей наукой эта цель никак не соотносится, и мы ее рассматривать не будем.

2 Он писал под псевдонимом Стьюдент.

3 Не путать с модными фасонами!

5 Это не всегда так, еще древние римляне учили не путать post hoc (после того, как...) и propter hoc (вследствие того, что...). Пример: лето наступило после окончания учебного года, но не вследствие этого события!

6 Такой способ оценки разнородных данных не является строго корректным с математической точки зрения

7 Коэффициенты обозначаются греческими буквами, если относятся к генеральной совокупности данных, а латинскими – их оценки, рассчитанные по малой выборке

8 В литературе по планированию эксперимента часто используют и другую терминологию: регрессию с произведениями факторов называют нелинейной, а регрессией второго порядка называют только такую, где есть квадраты факторов.

9 В неочевидных случаях кодированные значения факторов выделены шрифтом.

10 Например, в [16] и других пособиях по инструментальным методам анализа.

8 Термин «параметр» в данном случае имеет совершенно другой смысл, чем при планировании эксперимента и последующей оптимизации условий какого-либо процесса. Непараметрические методы применимы для обработки любых данных – как факторов, так и параметров оптимизации.

9 Этот критерий правильнее называть критерием Смирнова-Граббса, но такое название может привести к путанице, поскольку есть и другой критерий Граббса (см.ниже).

10 Теоретически коэффициент распределения не должен зависеть от концентрации экстрагируемого вещества, а на практике такое влияние есть, оно связано с протеканием побочных процессов.

1   ...   38   39   40   41   42   43   44   45   46


База данных защищена авторским правом ©zubstom.ru 2015
обратиться к администрации

    Главная страница