Примеры с SQL

Рекомендую к прочтению статью Разреженные столбцы или sparse columns в MS SQL Server. Реальный опыт применения. В статье подробно описывается разбор проблемы с производительностью базы данных. Последовательно приводится анализ текущей ситуации, вариантов решения и описание преимуществ, ограничений и недостатков выбранного решения - использования разреженных столбцов (sparse columns).

Наткнулся на серию статей по анализу работы MS SQL Server.
Первая часть мне не очень понравилась, а вот вторую считаю вполне полезной:

• Анализ конкретного запроса - план выполнения, затраты процессора (SET STATISTICS TIME ON), дисковые операции сервера (SET STATISTICS IO ON), объем сетевого трафика.
• Анализ нагрузки от приложения - profiler, ключевые (Stored Procedures RPC:Completed, TSQL SQL:BatchCompleted - все внешние sql-вызовы) и просто полезные события.
• Анализ активности пользователей в целом по серверу - информация о сессиях (sys.dm_exec_sessions), запросы выполняющиеся в данный момент (sys.dm_exec_requests), сводная статистика (sys.dm_exec_query_stats).

Коллега по работе прислал ссылку на подборку статей (к сожалению, на английском языке), в которых приводились аргументы, почему не надо на MS SQL сервере делать сжатие (Shrink) баз данных, а тем более регулярно в автоматическом режиме.

Приведённые примеры показались убедительными и сжатие мы отключили, а заодно и поигрались с настройками файлов (добавили свободного места, изменили правила приращения).

Теперь в каждом файле основной базы данных (мы крупные связанные части базы данных выносим в отдельные файлы) у нас свободно места на полгода-год (учитывая прогнозируемую скорость роста), а также увеличение размера (приращение) файлов идёт по 512-1024МБ (про проценты лучше сразу забыть).

Интересная статья о хранении данных и кластерном индексе в MSSQL. Приведу здесь только алгоритм выбора индекса на роль кластерного:

Предлагается следующий алгоритм выбора:

1. Определить все индексы, по которым происходит поиск одиночного значения. Если такой индекс единственный – его и нужно кластеризовать. Если несколько – перейти к следующему шагу.
2. Добавить к индексам с предыдущего шага все индексы, по которым предполагается сканирование диапазонов. Если таковых нет – кластеризованный индекс не нужен, несколько индексов на куче будут работать лучше. Если есть – каждый из них следует сделать покрывающим, добавив все столбцы, которые нужны сканирующим запросам по этому индексу. Если такой индекс единственный – его следует кластеризовать. Если их больше одного – перейти к следующему шагу.
3. Однозначно лучшего выбора кандидата на кластеризацию среди всех покрывающих индексов нет. Следует кластеризовать какой-то из этих индексов, принимая во внимание следующее:
   • Длина ключа. Ключ кластеризованного индекса является ссылкой на строку и хранится на листьевом уровне некластеризованного индекса. Меньшая длина ключа означает меньше места на хранение и более высокую производительность.
   • Степень покрытия. Кластеризованный индекс содержит все поля «бесплатно», и покрывающий индекс с самым большим набором полей – хороший кандидат на кластеризацию.
   • Частота использования. Поиск одиночного значения в покрывающем индексе – самый быстрый возможный поиск, а кластеризованный индекс – покрывающий для любого запроса.

https://habrahabr.ru/post/188704/

В довольно старых базах данных, да ещё если за время их существования сменилось несколько поколений разработчиков, чего только не увидишь. Случайно наткнулся на таблицу без кластерного индекса (кучу или HEAP). Заинтересовался много ли ещё таких таблиц и написал следующий SQL-запрос:

-- все таблицы в базе без кластерного индекса (кучи)
select distinct top 1000
    s.name as [Schema],
    o.name as [TableName],
    ps.row_count as [RowCount]
from sys.objects o
    left join sys.schemas s
        on o.schema_id = s.schema_id
    inner join sys.indexes i
        on o.object_id = i.object_id
    inner join sys.dm_db_partition_stats ps
        on o.object_id = ps.object_id
where
    o.type_desc = 'USER_TABLE' and
    i.type_desc = 'HEAP'
order by
    [RowCount] desc

В отдельных случаях для таких таблиц можно значительно повысить производительность запросов просто добавив кластерный индекс.

Прочитал интересную статью со сборником частых ошибок, которые допускают при написании SQL-запросов.

Для себя могу отметить следующее (далее пункты соответствуют пунктам в статье):

1. Правильность типа данных очень важна.
2. SELECT * - зло!
3. Alias нужны всегда и для всех объектов.
4. Нельзя ориентироваться на порядок колонок в таблице.
5. Коварный NULL (его необходимо учитывать при сравнениях).
6. Константы даты только YYYYMMDD (раньше писал с дефисами, больше не буду).
7. Интересные решения по фильтрации по дате - вычисляемое поле и индекс.
8. Нельзя преобразовывать колонки в WHERE.
9. Всегда необходимо указывать правильный тип констант (строки в кавычках).
10. Для поиска с начала только LIKE.
11. Для констант в UNICODE всегда N (иначе будет приведение к ANSI).
12. COLLATE очень важен.
13. Для LIKE c %Value% можно использовать BINARY COLLATE.
14. Имена всех объектов писать строго как в БД (иначе м.б. проблемы с COLLATE).
15. Внимание с CHAR и VARCHAR (т.к. есть отличия в сравнении по LIKE).
16. Важно указывать размерность типа (просто VARCHAR = VARCHAR(1), но в CAST/CONVERT будет VARCHAR(30)).
17. ISNULL и COALESCE (первый приводит к меньшему типу, второй к большему, но работает медленнее).
18. Внимательнее с математическими операциями - результат зависит от типов операндов.
19. UNION vs UNION ALL (первый медленно, но может выполняться параллельно, второй быстро но последовательно).
20. Внимательнее с подзапросами в SELECT - могут быть лишние чтения.
21. В подзапросах может вернуться более одного результата (тогда ошибка).
22. CASE WHEN - может привести многократному вычислению одних и тех же операторов.
23. Scalar func - зло (особенно с параметрами и вычислениями).
24. Внимательнее с VIEWs (могут быть проблемы с производительностью, если нужны не все колонки).
25. CURSORs - зло (только если по-другому нельзя).
26. Пока нет STRING_CONCAT - XML оптимальный вариант (90% случаев).
27. SQL Injection - использовать sp_executesql с параметрами, вместо ручной склейки строки.

PS: Для отображение численных характеристик выполнения запроса можно использовать SET STATISTICS TIME, IO ON перед запросом и OFF после.

В понедельник на работе перешли на Microsoft SQL Server 2016. Учитывая, что переходили с довольно таки старого 2008, постарались подготовиться получше. Переход прошёл в целом очень хорошо, но всё же некоторые непредвиденные сложности возникли:

• Несколько запросов перестало выполняться из-за использования некорректных типов данных.
• Некоторые сложности возникли с правами для прилинкованного сервера. Сам сервер прилинковался "на ура", но вот запросы с него не выполнялись, выдавая следующую ошибку: Причём, у привилегированного пользователя всё работало, а у обычного нет. Но стоило выполнить запрос под привилегированным пользователем, как начинало работать и под обычным, правда, не долго - через какое-то время снова выдавало ошибку. По тексту ошибки и нескольким статьям в интернете предположили, что проблема в том, что "обычным" пользователям прилинкованный сервер не отдавал статистику, а без этого запросы не выполнялись.