Ознакомьтесь с нашей политикой обработки персональных данных
  • ↓
  • ↑
  • ⇑
 
Записи с темой: теоретически (список заголовков)
02:49 

lock Доступ к записи ограничен

Почём сегодня унитарный патрон на 7.62?
Фанон Шэннона

URL
19:45 

Про один бит информации, или что мы, собственно, измеряем

Почём сегодня унитарный патрон на 7.62?
Из моего же ЖЖ

Или почему я начала несколько ржать при добавлении в эту кучу ещё и достоверности события от нуля до единицы. Оно же про то, почему теория связи статистическая.

Потому что эту теорию связи придумали математики, конечно, и вопрос "а как посчитать, сколько же информации" встал автоматически. Первая же мысль: бывают сообщения важные и неважные. Сколько информации в сообщении о том, что Саша любит Машу? Сколько информации в том, что сумма квадратов катетов равна квадрату гипотенузы? И где этой информации больше? А если у Маши спросить? А для Петра Ивановича, учителя математики, который преподаёт даже не в их школе? То есть решение о важности или неважности принимается субъектом, и даже если все вокруг будут твердить, что катеты важнее, Маше это как-то вдоль хитона.

То есть в математике опираться на этот критерий - ну только если другого не найдут. Нашли, разумеется. Это вероятность получения данного сообщения. "Солнце сегодня встало на востоке" - спасибо, мы другого и не ожидали, ничего нового. "Кошка научилась говорить "Привет" по-японски" - чо О_о? это же не может быть! "Вася сегодня пришёл вовремя" - хм, счёт 4:5 в пользу Васи, он в половине случаев опаздывает...

А если переходить на 0 и 1, то если всегда приходит 0, то приход очередного нуля ничего нового нам не сообщит - количество информации, полученной в этом сообщении, стремится к нулю. А если от этого входа неожиданно впервые за долгое время наблюдений приходит единица, количество новой информации зашкаливает (стремится к бесконечности). С единицей то же самое. А если вероятность 1:1? То появление нового сообщения в любом случае принесёт некоторое количество информации.

Вот это "некоторое количество" и есть один бит.

Общий вид функции (как изменяется количество информации в зависимости от вероятности появления сообщения) может быть разным, нам точно приводились примеры с логарифмами (и натуральный, и десятичный, и по основанию 2), но основа была именно эта: если вероятность появления сообщения равна 1, то количество информации там 0 бит; если 0,5 - то 1 бит; если 0, то есть сообщение невероятно, то в нём бесконечное количество информации.

Хотя сейчас уже привычно говорить, что один разряд (0 или 1) содержит 1 бит информации. Но если брать канон, это не совсем так.

Это было небольшое замечание, которое, в целом, мало используется на практике, где у нас наступление и не-наступление события равновероятны. То ли встретишь динозавра на улице, то ли не встретишь. Хотя для оценки некоторых характеристик полученной нейронной сети может и пригодиться. Или нет =).

@темы: Техно, Теоретически

12:01 

Вступление нелирическое

Почём сегодня унитарный патрон на 7.62?
Часть раз.

В одной из книг стиля «Учимся рисовать за 21 день» автор в качестве затравки давал следующее упражнение.

Представьте себе яблоко, как можно более подробно, с деталями. И нарисуйте его - как можно более тщательно. А потом возьмите яблоко настоящее. И нарисуйте его. Вот как видите, с натуры. А потом сравните степень детализации рисунков, их индивидуальность, этих яблок.

Первый рисунок в этом проиграет, и сильно.

Кстати, от себя добавлю, что первый рисунок совершенно необязательно проиграет в декоративности. Он может быть приятней глазу. Но вот с индивидуальностью будет хуже.

Часть два.

Вольные выписки из не самого непосредственного учебника по общей психологии, но что нашла. Плюс он более-менее новый (писать актуальную работу по Выготскому, конечно, можно, потому что такую величину ещё поискать, но многие его тексты уже отпраздновали 80-летний юбилей).

Представление - это психический процесс отражения предметов или явлений, которые в данный момент не воспринимаются, но воссоздаются на основе предыдущего опыта. Бывают представления памяти и представления воображения, последние воссоздаются точно так же.

Представляемые образы по умолчанию бледнее непосредственно воспринимаемых. И - это всегда более или менее обобщённые образы, даже если это образы конкретного предмета или явления.

Часть три.

Есть такая наскальная живопись, которая по степени реализма превосходит всё, что было потом в течение тысячелетий. Вообще на «Истории культуры и искусства» нам говорили о маятнике «реализм - символизм» в этом самом искусстве, от том, что периоды приближения изображения к натуре сменялись другими, где ведущую роль играл смысл, переданный через символ, и обратно.

@темы: Теоретически, Отпечатки повседневности, Гуманитарно

20:44 

Грызя гранит

Почём сегодня унитарный патрон на 7.62?
Продираюсь сквозь довольно своеобразный текст ещё одного нашего мастодонта от психологии - Леонтьева.

Его "коротенькая" книжка "Деятельность. Сознание. Личность" на первую треть состоит из марксистско-ленинской методологии, с малым числом цитат из непосредственных предшественников (типа мастодонта Выготского и мастодонта Рубинштейна; последнего он, впрочем, пинает в основной части своего труда), зато с большим - из Маркса, Энгельса и Ленина. При наложении на это значительного пафоса через текст действительно приходится продираться, не так, как через Выготского, который тоже, мягко говоря, своеобразен - но своеобразен он сам по себе, эдакий логический бонсай, чем-то напоминающий немножечко Канта и чуть больше Маяковского; я бы сказала, что Леонтьев - первый (хронологически) автор, за чьим текстом я не вижу его самого. Да, его выводы глубоки и интересны, но за текстами что Рубинштейна, что Льва Семёновича видны люди; за текстом же "Деятельности..." человека, персоны - не видно. Для середины семидесятых это как раз нехарактерно вроде.

Но моменты, упоминаемые им зачастую в неакцентированном виде, как минимум сильны. Как максимум, думаешь, как же имеющуюся картинку в голове подогнать под эту логическую головоломку:

О принципиальной пассивности объекта и активности субъекта. То есть, насколько я поняла, о внутренней движущей силе как неотъемлемой характеристике субъекта.

Из этого ведь идёт очень много всякой красоты:
- чем недопустима объективация в отношениях;
- почему, если полагать человека "сексуальным объектом", сразу же возникает требование пассивности;
- как субъект или объект становятся предметом деятельности (а оно у него всё про деятельность);
- и об объективности как требовании к научному тексту заодно.

А мне всё это надо прицепить к воображению и творчеству. И "в лоб" оно не цепляется.

@темы: Гранит науки, Гуманитарно, Простые мысли, Теоретически

14:06 

О радуге и цветосочетаниях

Почём сегодня унитарный патрон на 7.62?
Радуга практически во всех культурах занимала особенное место. Где-то полагали, что она указывает на клад, где-то "назначали" мостом между мирами.

Довольно широко известен тот факт, что количество выделяемых в радуге цветов у каждого народа своё, потому что по сути полный спектр, которым она является, содержит бесконечное множество цветов, между которыми нет четких границ, а человеческий мозг такого не любит.

Многие из нас с детства помнят считалку-мнемокод "Каждый охотник желает знать, где сидит фазан", разворачивающийся из КОЖЗГСФ в порядок цветов в радуге (красный - оранжевый - желтый - зеленый - голубой - синий - фиолетовый). И ведь помним же.

Сограждане любезные, вы радугу давно в последний раз видели?

Этот текст я ещё буду править :).

@темы: Простые мысли, Теоретически, Эстетически

20:39 

Алхимия

Почём сегодня унитарный патрон на 7.62?
Алхимия — оккультная наука, уходящая своими корнями в X—XI вв. По одной из этимологических дешифровок "алхимия" происходит от Chymeia — наливание, настаивание, — указывая на древнюю практику восточных врачевателей-фармацевтов. По другому мнению, корень Khem или Khame подразумевает чернозем и Черную страну, т. е. Древний Египет ("Та Кемет"). Изучение земных недр: в латинском языке humus — земля — третья версия этимологии слова. Древнегреческий словарный арсенал вызывает следующие фонетические ассоциации: хюмос — сок, хюма — литье, поток, река, химевсис — смешение. Древнекитайское ким — золото — указывает на дальневосточное происхождение, а приставка "ал" — на арабское. Александрийский философ Зосима считал, что "алхимия" происходит от библейского Хама.

И далее с Яндекс.Словарей

@темы: Гуманитарно, Теоретически

22:37 

Из истории радиопротиводействия

Почём сегодня унитарный патрон на 7.62?

Крейсер «Изумруд» и его команда.



Команда крейсера «Урал»


Вице-адмирал З.П. Рождественский

Первые сведения об умышленном создании радиопомех относятся к русско-японской войне (1904-1905). Командир русского крейсера «Урал» предложил командующему эскадрой вице-адмиралу З.П. Рождественскому подавить излучением бортовой радиостанции линию радиосвязи японских разведывательных крейсеров, следовавших на небольшом удалении от русской эскадры и передававших сведения о её продвижении. Однако Рождественский этого не разрешил и тем самым позволил разведчикам противника беспрепятственно передавать высшему командованию японского флота сведения о боевых порядках и координатах кораблей своей эскадры.

В ходе Цусимского сражения передовые командиры отдельных кораблей по собственной инициативе применяли помехи радиосвязи. Так, например, создавали помехи крейсер «Изумруд» и миноносец «Громкий».


Из книги С.А. Вакина и Л.Н. Шустова

@темы: Теоретически, Техно

22:11 

Цель, средство и планка

Почём сегодня унитарный патрон на 7.62?
Читала (и даже кое-кому распечатывала) недавно Курта Левина в той части, где он вводит понятие уровня притязаний (или где я нашла, что он употребляет).

У него есть* довольно забавное замечание, что человек выбирает для себя нечто наиболее трудное из возможного для него по его мнению, если расценивает это как цель. И наиболее простое и незатратное из достаточного, если это средство достижения цели. И уровень притязаний - планка, которая ограничивает выбор цели, то самое "из возможного для него по его мнению".

Забавно этот момент сравнивать с мнением о том, что если детей не заставлять учиться (заставлять читать, заставлять читать классику), они выберут что попроще, развлекалово и прочее моральное разложение.

Может, тогда образование (чтение, классика) - не цель, а средство? Целеполагание Другого - такая интересная область...

*могу даже поискать цитаты, но они не в самом удобном для перенесения в ЖЖ виде.

@темы: Гуманитарно, Теоретически

09:56 

Буду знать, что ему надо хоть

Почём сегодня унитарный патрон на 7.62?
А то у меня цикас уже два года, не желтеет, но и не растёт =(.

Цикас (Саговник)

Цикас отвернутый - Cycas revoluta
Семейство саговниковые
Родина саговников — тропические области Японии. Это очень древние обитатели нашей планеты: существуют на земле более 100 миллионов лет. Иногда саговник называют пальмой, и, действительно, на первый взгляд они очень похожи. Однако это сходство чисто внешнее. Саговники приходятся близкими родственниками папоротникам, от которых отличаются тем, что размножаются не спорами, а семенами. Саговники относятся к голосеменным растениям и, следовательно, являются родственниками и наших хвойных деревьев.

Цикас представляет собой низкое дерево с толстым, колоннообразным стволом. Поверхность ствола неровная, бугристая. Из верхушки ствола короной отходят длинные, перистые, очень красивые листья. Темно-зеленые, плотные, блестящие, они будто покрыты лаком. Молодые листья свернуты в спирали, как ваи папоротника, и вырастают все сразу, одновременно, а старые листья отмирают.

Цикас — двудомное растение: имеются женские и мужские экземпляры. Чтобы получить семена цикаса, надо иметь мужской и женский экземпляры его, цветущие одновременно. Цветение саговников — замечательное зрелище!

Цикас хорошо растет на светлых, солнечных местах как в теплых, так и в сравнительно прохладных помещениях. Летом поливают достаточно, часто опрыскивают. При избытке влаги листья желтеют и могут опасть. Земля требуется тяжелая и питательная — дерновая с перегноем, торфом и песком. Молодые растения пересаживают ежегодно, взрослые — раз в два-три года. Растет цикас очень медленно.

Размножают саговник семенами и отпрысками, отделяемыми от ствола во время пересадки.
Цикас, как и другие саговники, очень декоративен и считается одним из самых изысканных комнатных растений.

florall.ru/tsikas_sagovnik?page=1

@темы: Путь вовне, Теоретически

12:26 

Интернетом навеяно

Почём сегодня унитарный патрон на 7.62?
Кто проходил биологию в школе (и только в школе), наверняка помнит все эти плакаты на стенах и схемы на форзацах учебников про 4 царства живой природы, среди которых лишайники. Сейчас по техническим причинам хотела освежить в памяти эту схемку. Где? Где авторы учебников нашли именно её?

Читаю разные вроде серьёзные сайты со всякими историческими справками и чувствую себя как чукча из анекдота, который "а Слава КПСС - вообще не мужик, однако!".

В общем, нашла в Вики историю изменений в систематике, пусть тут висит:

Геккель (1894)

Три царства
Уиттекер (1969)

Пять царств
Вёзе (1977)

Шесть царств
Вёзе (1990)

Три домена
Кавалье-Смит (1998)

Два домена

и семь царств
Животные Животные Животные Эукариоты Эукариоты Животные
Растения Грибы Грибы Грибы
Растения Растения Растения
Простейшие Простейшие Хромисты
Протисты Протисты
Монеры Археи - Археи Прокариоты Археи
Эубактерии Эубактерии Эубактерии

@темы: Простые мысли, Теоретически

16:43 

Немного о бесконечности

Почём сегодня унитарный патрон на 7.62?
О чём ещё можно поговорить в поезде, как не о математике =). Итак, то, что я (как мне показалось) поняла, или как полшколы и весь институт нас малясь дурили.

Из сладостных уроков математики мы помним, что есть две такие маематические абстракции: очень_большое_положительное_число (она же "плюс бесконечность") и очень_большое_по_модулю_и_при_этом_отрицательное_число (она же "минус бесконечнсть"). То есть обе бесконечности - это "до хренища, умноженное на два". Так вот, как мне дооолго и муторно объясняли, на самом деле бесконечность одна, а плюс она или минус - сие тайна велика есть.

Иллюстрировалось это просто. Вот есть у нас прекрасная комплесная плоскость. То есть по горизонтальной оси у нас действительная часть числа (может быть и +, и -), по вертикальной оси - мнимая часть, которая некоторое b, умноженное на корень из -1; b тоже может быть как +, так и -, то есть и вверх, и вниз. И любая точка на этой плоскости соответствует единственному комплексному числу, а любое комплексное число может быть обозначено через единственную точку на этой плоскости. Однозначное соответствие то есть.

И вот есть такая плоскоть, допустим, на листе бумаги. А мы взяли шар и поставили на этот лист в точку (0; 0). То есть совместили точку (0; 0) и южный полюс нашего шара. Теперь возьмём любую точку с плоскоти и соединим её прямой с северным полюсом шара. Эта прямая пересечёт шар в одной-единственной точке. Если мы возьмём другую точку с плоскости и так же соединим с северным полюсом шара, получим другую, тоже чётко определённую точку пересечения прямой и шара. И так - для любой точки плоскости. То есть любой точке комплексной плоскости соответствует одна точка на шаре. При этом чем дальше будет точка плоскости от нуля, тем выше будет точка пересечения прямой с шаром.

Но комплексная плоскость бесконечна, причём во всех направлениях. И если мы возьмём любую точку, удалённую от нуля бесконечно далеко, прямая соединится с шаром в единственной точке - на северном полюсе. И в какую бы сторону мы не ушли от нуля - всё равно при соединении точки и шара прямой мы попадём в точку N.

То есть мы видим, что точка на шаре и точка на плоскости имеют однозначное взаимное соответствие. За исключением единственного случая - точка в бесконечности по одной из осей - всё равно, плюс или минус эта бесконечность, мы всё равно попадаем на полюс. Это исключение разрешается признанием, что бесконечность - одна ^__^. Тогда мы получим просто ещё одну систему координат ^__~ с чётким правилом перевода.

Всё это было мне рассказано, дабы объяснить трансформацию эллипса сначала в параболу, а затем в гиперболу, но это уже слишком для меня. Хотя если разберусь - напишу =).

P.S. Ага, мне этот логический переход к единственной бесконечности кажется красивым. Именно поэтому я о нём и написала. Это почти так же клёво, как няшные котики.

@темы: Теоретически, Техно

13:59 

Дела институтские

Почём сегодня унитарный патрон на 7.62?
Сегодня собираюсь сдать зачёт по стррашному предмету "Искусственный интеллект". Конечно, до зачётной недели ещё жить и жить, но лучше ведь пораньше избавиться от ненужной головной боли, ннэ? Тем более по данной дисциплице будет мой диплом.

Немного о том, что нам рассказали о форме зачёта.

Так вот, что касается последнего задания (обучение нейронной сети), вернее, второго и третьего куска третьей части, а именно: отделения гиперплоскостью одной из вершин гиперкуба от всех смежных вершин.

Формулировка задания.

Решение задачи до момента возникновения мозготраха.

Итак, по сути у нас есть следующее: 2 ПЛБ с необходимостью нахождения W1и W2, но без особого желания тратить время на километровые (или мегабайтные) расчёты. Рассмотрим каждый из этих ПЛБ подробно.

Задача 1-го ПЛБ (W1) - разделить гиперплоскостью расширенные объекты {000101} как 2-ой кл. (выход ПЛБ=-1) и {100101}, {010101}, {001101}, {000001}, {000111} как 1-ый кл. (выход ПЛБ=+1). Если мы будем рассматривать гиперкуб, вершинами которого будут данные объекты, то заметим, что каждая вершина, соотв. объекту 1-ого кл. является смежной с вершиной {000101}. Таким образом, они являются равноправными по отношению к той вершине, которую необходимо отсечь гиперплоскостью. Это наводит на мысль о том, что коэффициенты w1-w5 м.б. одинаковы по модулю (не обязательно, но если писать сразу и по-простому, а не сидеть высчитывать, то и так сойдёт, подробнее напишу позже). Знак w1-w5 и величина и знак w6 определяется из следующих соображений (сначала на примере): единственный отрицательный выход должен дать объект {000101}. При этом w6 точно не может быть <0 (объект {000001} даёт положительный отклик). Определяем по минимуму: w4=-2, w6=1. Все остальные w положительны и по модулю равны w4. Получаем W1={222-221}. Проверка показывает, что данная гиперплоскость действительно классифицирует объекты верно.

Попробум сделать вывод для вершины, требующей выхода ПЛБ=-1, при том, что смежные вершины требуют выхода ПЛБ=+1:
При размерности изначального (нерасширенного) объекта=m вектор W будет строиться следующим образом: для w1-wm величину по модулю принимаем=2, знак "-" ставится в тех разрядах, которые в вершине=1, знак "+" ставится в тех разрядах, которые в вершине=0. Величина порога w(m+1)=2*с-1, где с - количество разрядов входного объекта, равных 1.

Рассуждая аналогичным образом, получим весовой вектор 2-ого ПЛБ W2={222-22-7}.

Вывод для вершины, требующей выхода ПЛБ=+1, при том, что смежные вершины требуют выхода ПЛБ=-1:
При размерности изначального (нерасширенного) объекта=m вектор W будет строиться следующим образом: для w1-wm величину по модулю принимаем=2, знак "-" ставится в тех разрядах, которые в вершине=0, знак "+" ставится в тех разрядах, которые в вершине=1. Величина порога w(m+1)=-[2*с-1], где с - количество разрядов входного объекта, равных 1.

Кажется, где-то так.

@музыка: Медведев - Полшага до песни

@настроение: рабочее

@темы: Теоретически, Гранит науки, Техно

Времена Пресловутой Весны

главная