Иерархия в голландских компаниях

Об этом - NVIDIA A100 | NVIDIA
Или этом - H100 Tensor Core GPU | NVIDIA

Nvidia H100 GPUs: Supply and Demand · GPU Utils ⚡️ (llm-utils.org)

 

Так надо было уточнить, о чем речь. Эти карты стоят по 20 тыс, это мало кого касается.

 

At this point a lot of things are considerably harder to get than drugs.

 

Это карты для облачных вычислений (TPU, Tensor Processing Unit), очередь на них для корпоративных клиентов, вряд ли их вообще в розницу продают. Да и покупать их необязательно, можно арендовать в "облаке" за 1-2$/час: https://cloud.google.com/compute/gpus-pricing

LLM это нишевая область, хорошо работает для natural language processing (для чего они собственно и делались) - чат-ботов, обработки текста и пр. LLM кстати и код генерит неплохо, на простых запросах типа "напиши программу выдачи простых чисел до 100" вполне работает, но сомневаюсь что сложную программу он целиком напишет. AGI (Artificial General Intelligence) пока что не существует, то что есть - в лучшем случае как поиск гугла на стероидах.
Другая ниша Generative AI, но она тоже имхо довольно-таки узкая.
Но да, все это не magic bullet, хотя какое-то применение наверняка найдется.

 

Очень вяло. В плане компенсации, компании притворяются будто мы все еще в 2019 году. По крайне мере компании из 1 и 2 звена. Третье звено — это в основном американские компании, которые распухали на дешевых (фактически бесплатных) деньгах, но доступный кредит заканчивается, спасибо Феду и ЕЦБ.

 

Я про розницу и не говорил Имел в виду, что пузырь настолько раздут, что народ в очереди стоит год, чтобы карту получить.

 

Неплохие зарплаты в IT

 

Все эти LLM требуют ядерных реакторов и датацентров размером с Рандстад, не очень понятно, зачем, когда "LLM" у обычного homo sapiens на порядки сложнее и всё, что ему требуется, это пара сэндвичей.

 

Ну это пока и для обучения а не для работы.

Я так понимаю, что топовые LLM обучены на всём тексте когда либо неписаном человечеством на всех языках, включая open source.
Вы много таких homo sapiens знаете?

Плюс homo sapiens чтобы перенести знания от одного к другому требуются десятилетия, а все знания (веса в нейросети) chatgpt помещаются в 1TB и переносятся от одной к другой очень быстро.

 

До 2022 г. И они могут делать шаблонный поиск и выдавать шаблонный текст, который нигде нельзя применить, потому что его достоверность не гарантируется. По сути, грамматически корректная чушь (по крайней мере, это мой опыт от общения с chatgpt последние месяцы), требующая дополнительного подтверждения в 100% случаев, т.к. модель "не понимает" ни сути вопроса, ни сути ответа, и не дает никаких ссылок на использованные работы или материалы и просто выдает один наиболее вероятный ответ, отформатированный в грамматику.

Веса - это не знания.

Что значит "пока", обучение не закончится никогда.

 

Что такое "понимать" - это философский вопрос, но вот в этом видео отец-основатель современных нейроситей утверждают что они именно понимают ответ

А вы попросите её, она даст. Но вообще-то она не содержит в себе всю информацию в виде текста и ссылок на оригинал, она как и люди, прочитала это всё и усвоила эти знания.

мой опыт другой:

• Пишет стихи (на русском плохо, но на английском вообще супер!)
• Объясняет смыл анекдотов
• Исправляет текст и объясняет почему так лучше.
• Пишет офигенные деловые письма
• программы пишет (тут я не профессионал, но она мне очень помогает)

 

Ну я вот использовал один раз ради интереса, мне коллега ответил - ты что, из бота это скопипастил?

 

Кста, об искусстве:

 

Мне дочка недавно рассказала как она тексты для школы пишет.
Пишет текст не заморачиваясь, пропускает через chatgpt, потом в нём заменяет пару оборотов на более примитивные/ детские, чтоб не заподозрили.

При этом отмечает, что наблюдение как твой текст становится более литературным, даёт результат.
За несколько месяцев сочинительство прокачалось, изначальные тексты выглядят уже довольно достойно.

 

• Ну во-первых можно было попросить изменить стиль написания (разговаривайте с ней)
• Во вторых, допустим еще 1.5 года назад получив такое письмо ваш коллега спросил не наняли вы какого-нибудь профессионального юриста за 300 евро в час для написания писем. И что тут плохого?

 

И да, и нет. Убер не отражает типичную ситуацию на рынке, к тому же у них случилось IPO в 2019, что искажает общую компенсацию. До IPO у них были саудовские инвестиции. Компенсация в компаниях третьего звена — это примерно как многомиллионные гонорары в Голливуде. Они безусловно есть, но среднестатистический актер в лучшем случае работает за профсоюзную ставку, а чаще просто разносит тарелки в общепите в ожидании звонка.

Более реалистичная общая компенсация для сеньора в обычной компании (мизерный бонус, ноль акций) все еще в районе 90-110K.

 

Да ничего плохого, я просто не вижу особого вау фактора за полгигаватта энергии, и это похоже растет нелинейно. Анекдоты объясняет так себе (некоторые нормально, которое посложнее и покороче - нет), разве что студентам/школьникам писать эссе, вместо использования своих мозгов.
Сгенерированные деловые письма показывают корреспонденту, что их автор туп и ленив для такой простой работы. Изменение стиля тут не поможет. Но это чисто личное мнение. Для массовой рассылки ещё куда ни шло.

 

Психологи уже предупреждают, что вырастит поколение $%^&*ов.

 

Там действительно такие монстры работают?

--- Сообщения объединены, 5 окт 2023, дата первого сообщения: 5 окт 2023 ---

Психологи постоянно о чём-то предупреждают, я думаю еще с того момента как люди изобрели письменность и начали записывать что-то на папирусе вместо того чтобы запоминать.

может, кстати. они и правы, т.к. последние 30 тысяч лет размер мозга у людей уменьшается